فریب الگوریتم‌های هوش مصنوعی با استفاده عمدی از غلط املایی در مقالات

گزارش جدیدی با موضوع تأثیر سریع هوش مصنوعی بر آموزش دانشگاهی منتشر شده است که در آن از زبان چند دانشجو گفته شده که آنها برای دور زدن سیستم‌های تشخیص متن‌های تولیدشده توسط AI، عمداً در مقالات خود از غلط‌های املایی و نگارشی استفاده می‌کنند.

یکی از مهم‌ترین کاربردهای چت‌بات‌های مانند ChatGPT تولید محتوای متنی و مقاله است. بااین‌حال همیشه توصیه می‌شود که خروجی هوش مصنوعی برای طبیعی‌تر شدن باید ویرایش شود. اکنون گزارشی توسط نیویورک مگزین منتشر شده که راه‌های ابداعی چند دانشجو برای فرار از سیستم‌های تشخیص متن نوشته شده با هوش مصنوعی را فاش می‌کند.

جلوگیری از تشخیص متن تولید شده توسط هوش مصنوعی

برای مثال یکی از دانشجویان از چت‌بات خواسته مقاله‌ای را به‌گونه‌ای بنویسد که انگار نویسنده آن یک «دانشجوی سال اول کمی خنگ» است تا شانس شناسایی توسط الگوریتم‌ها کمتر شود.

اریک، دانشجوی سال دوم دانشگاه استنفورد، به نیویورک مگزین می‌گوید همکلاسی‌هایش «در دستکاری سیستم‌ها واقعاً ماهر شده‌اند». او توضیح داده که برخی ابتدا درخواست خود را در ChatGPT وارد می‌کنند، سپس خروجی را وارد یک هوش مصنوعی دیگر کرده و در نهایت آن را به سیستم دیگری می‌فرستند تا در نهایت شناسایی متن به‌عنوان تولیدشده توسط هوش مصنوعی سخت‌تر شود.

با این حال، نکته طنز ماجرا آنجاست که دانشجویان با صرف این همه وقت و خلاقیت برای فریب سیستم‌ها، می‌توانستند همان انرژی را صرف نگارش واقعی مقالاتشان کنند.

«سم ویلیامز»، دستیار آموزشی دانشگاه آیووا، در گفت‌وگو با این مجله می‌گوید:

«دانشجوها از هوش مصنوعی استفاده می‌کنند چون راه‌حلی ساده‌ است و به آنها کمک می‌کند تا زمان زیادی را صرف نوشتن مقاله نکنند. و من آنها را درک می‌کنم، چرا که خودم هم در دوران دانشجویی از نوشتن مقاله متنفر بودم.»

او می‌گوید از شدت تغییر لحن و کیفیت میان مقاله اول و دوم دانشجویان خود شوکه شده است. مقاله نخست، درباره سلیقه موسیقایی خود دانشجویان بوده، اما مقاله دوم درباره تاریخ موسیقی جَز (Jazz) در نیواورلئان نوشته شده بود. ظاهراً مقاله دوم دانشجویان پر از اشتباهات فاحش، از جمله اشاره به «الویس پرسلی» بوده که نه جزئی از صحنه موسیقی نیواورلئان محسوب می‌شود و نه اصلاً جز خوانندگان جَز است.

او به صراحت به دانشجویان خود اعلام کرده:

«لطفاً از هوش مصنوعی استفاده نکنید. اما اگر قصد دارید تقلب کنید، دست‌کم این کار را با هوش انجام دهید. نمی‌توانید محتوای تولیدشده را بدون هیچ تغییری کپی کنید.»