OpenAI یک ابزار آشکارساز هوش مصنوعی را برای مقابله با متن ایجاد شده توسط ChatGPT راه اندازی می کند

چت ربات خودکار مبتنی بر هوش مصنوعی OpenAI، ChatGPT، اینترنت را طوفانی کرده است، اما بدون ایجاد چند مشکل در راه است. با وجود نویسندگان، کدنویس‌ها، بازاریاب‌ها و ظاهراً همه افراد دیگری که از ChatGPT برای تولید محتوا استفاده می‌کنند، شرکت‌ها در سراسر جهان به دنبال سونامی محتوای تولید شده توسط هوش مصنوعی هستند.

با توجه به موضوعات سرقت ادبی و محتوای دزدیده شده که دائماً در اطراف ChatGPT و خروجی آن می چرخد، OpenAI اکنون یک GPT-Classifier جدید منتشر کرده است، ابزاری که برای تشخیص و افشای متنی که می خوانید کار ChatGPT یا یکی از GPT های دیگر آن طراحی شده است. ابزار.

OpenAI GPT-Classifier را برای کمک به بررسی متن نوشته شده با هوش مصنوعی راه اندازی می کند

اعلام OpenAI در حالی است که بررسی دقیق روی نوشتن با هوش مصنوعی و متن تولید شده توسط هوش مصنوعی افزایش یافته و شرکت ها خروجی ChatGPT را یکپارچه می کنند.

GPT-Classifier جدید تلاش می کند تا بفهمد که آیا یک قطعه متن توسط انسان نوشته شده است یا کار یک تولید کننده هوش مصنوعی است. در حالی که ChatGPT و سایر مدل‌های GPT به طور گسترده در مورد انواع ورودی متن آموزش دیده‌اند، ابزار GPT-Classifier “بر روی مجموعه داده‌ای از جفت متن نوشته شده توسط انسان و متن نوشته شده با هوش مصنوعی در یک موضوع تنظیم شده است.”

بنابراین، به‌جای جمع‌آوری اطلاعات و بازآفرینی بهترین تقریب آن، GPT-Classifier تلاش می‌کند تا شباهت‌های متن شناخته شده انسانی و متن شناخته شده هوش مصنوعی را برای یافتن تفاوت‌هایی که نویسنده منبع را آشکار می‌کند، مقایسه کند.

تشخیص GPT-Classifier در حال حاضر محدود است

در حالی که ایده تشخیص آسان متن تولید شده توسط هوش مصنوعی به گوش سردبیران و مربیان تبدیل خواهد شد، OpenAI هشدار داده است که “طبقه بندی آن کاملا قابل اعتماد نیست.”

در حال حاضر، GPT-Classifier “به درستی 26٪ از متن نوشته شده با هوش مصنوعی را شناسایی می کند” در حالی که 9٪ از متن های انسانی را به عنوان نوشته شده با هوش مصنوعی برچسب گذاری می کند. OpenAI همچنین خاطرنشان می کند که دقت ابزار “معمولاً با افزایش طول متن ورودی بهبود می یابد.”

یک آزمایش گذرا از GPT-Classifier یک نمونه تولید شده توسط انسان را مشاهده کرد و علامت آن را “بسیار بعید است که توسط هوش مصنوعی تولید شده باشد”، و همچنین به درستی نشان داد که یک قطعه تولید شده توسط ChatGPT در مورد مسائل USB “احتمالاً AI تولید شده است.”

تقاضا برای تشخیص ChatGPT زیاد است

حتی با وجود محدودیت‌های GPT-Classifier، تقاضا برای تشخیص قابل اعتماد ChatGPT احتمالاً باعث می‌شود که بسیاری به این ابزار روی بیاورند. تعهد OpenAI به ساخت و انتشار ابزار رایگان تشخیص GPT مهم است زیرا با استفاده بیشتر دانش‌آموزان، نویسندگان، برنامه‌نویسان و دیگران از ابزارهای تولید متن هوش مصنوعی، درک و شناسایی این ورودی حیاتی می‌شود.

در حال حاضر، اگرچه GPT-Classifier راه‌اندازی شده و برای آزمایش در دسترس است، بهتر است برچسب‌گذاری آن را با کمی نمک مصرف کنید.