پلتفرم Substack از قابلیت جدیدی رونمایی کرده است که به کاربران کمک میکند تشخیص دهند آیا یک مطلب توسط هوش مصنوعی یا با کمک آن نوشته شده است یا خیر. این ویژگی جدید با هدف افزایش شفافیت در انتشار محتوا ارائه شده و در ابتدا برای نسخه وب و اپلیکیشن iOS منتشر میشود؛ نسخه اندروید نیز بهزودی در دسترس قرار خواهد گرفت.
اسکن مطالب برای شناسایی متنهای تولیدشده با هوش مصنوعی
ابزار جدید از فناوری شرکت Pangram استفاده میکند و میتواند پستها، یادداشتها، پاسخها و دیدگاههایی که بیش از ۱۰۰ کلمه دارند را بررسی کند. کاربران تنها کافی است از منوی سهنقطه در گوشه بالای هر مطلب، گزینه Scan for AI text را انتخاب کنند تا برآوردی از میزان استفاده از هوش مصنوعی در تولید متن دریافت کنند.
افزایش شفافیت در عصر هوش مصنوعی
کریس بست (Chris Best)، همبنیانگذار و مدیرعامل Substack، اعلام کرده است که هدف این قابلیت مقابله با پدیدهای است که او آن را “Claudefishing” مینامد؛ وضعیتی که در آن خوانندگان تصور میکنند با محتوایی کاملاً انسانی روبهرو هستند، در حالی که بخش عمده آن توسط هوش مصنوعی تولید شده است.
به گفته او، مشکل اصلی استفاده از هوش مصنوعی نیست، بلکه اختلاف میان انتظار مخاطب و واقعیت است؛ زمانی که کاربران بدون اطلاع، زمان خود را صرف خواندن محتوایی میکنند که پشت آن تفکر انسانی چندانی وجود ندارد.
قابلیت جدید برای نویسندگان
همزمان با این تغییر، Substack ویژگی دیگری با عنوان “How I make this” را نیز معرفی کرده است. این قابلیت به نویسندگان اجازه میدهد روند تولید محتوای خود را برای مخاطبان توضیح دهند.
همچنین نویسندگان میتوانند پیش از انتشار، متن خود را با Pangram بررسی کنند و در صورتی که نتیجه ابزار را نادرست بدانند، آن را گزارش دهند.
محدودیتهای ابزار تشخیص
Substack تأکید میکند که فناوری Pangram تنها میتواند احتمال استفاده از هوش مصنوعی در تولید متن را تشخیص دهد و قادر نیست کیفیت، میزان خلاقیت یا دقت انسانی بهکاررفته در نگارش را ارزیابی کند. همچنین این ابزار مشخص نمیکند که آیا هوش مصنوعی صرفاً بهعنوان منبع اطلاعاتی مورد استفاده قرار گرفته یا مستقیماً متن را تولید کرده است.
با این حال، مدیرعامل Substack معتقد است افزایش شفافیت به کاربران کمک میکند با آگاهی بیشتری تصمیم بگیرند چه محتوایی را مطالعه کنند. او هشدار میدهد که اگر کاربران دائماً درباره واقعی بودن مطالب تردید داشته باشند، اعتماد به نویسندگان کاهش یافته و حتی نویسندگانی که بهصورت مسئولانه از ابزارهای هوش مصنوعی استفاده میکنند نیز آسیب خواهند دید. به گفته او، پلتفرمهایی که محتوای غیرواقعی را تشویق کنند، در نهایت به «رقابتی برای سقوط کیفیت» منجر خواهند شد.
جمعبندی
با گسترش استفاده از هوش مصنوعی در تولید محتوا، Substack تلاش میکند میان نوآوری و شفافیت تعادل برقرار کند. ابزار تشخیص متنهای تولیدشده با هوش مصنوعی و امکان توضیح فرآیند نگارش توسط نویسندگان، میتواند گامی مهم در حفظ اعتماد کاربران و افزایش شفافیت در فضای انتشار محتوا باشد.