FTC سازنده ChatGPT OpenAI را برای آسیب احتمالی به کاربران بررسی می کند. در اینجا چیزی است که شما باید بدانید

ChatGPT OpenAI از زمان راه‌اندازی بسیار محبوب شده است و آن را به سریع‌ترین برنامه در حال رشد در تمام دوران تبدیل کرده است. با این تعداد کاربر، سؤالاتی در مورد نحوه جمع آوری، استفاده و محافظت از داده های کاربر مطرح شده است – و اکنون کمیسیون تجارت فدرال (FTC) پاسخ می خواهد.

در یک سند 20 صفحه ای FTC که توسط واشنگتن پست به دست آمده است، آژانس دولتی از OpenAI می خواهد که اسنادی را در مورد تقریباً تمام جنبه های مدل زبان بزرگ خود، با تمرکز ویژه بر مدیریت داده های کاربر OpenAI و خروجی ChatGPT از اظهارات نادرست، ارائه دهد.

همچنین: مدل های هوش مصنوعی را با داده های خود آموزش دهید تا خطرات را کاهش دهید

طبق این سند، FTC در حال بررسی است که آیا OpenAI در «روش‌های غیرمنصفانه یا فریبنده حفظ حریم خصوصی یا امنیت داده‌ها» شرکت می‌کند یا در «روش‌های فریبنده» که می‌تواند به مصرف‌کنندگان آسیب برساند، دست زده است.

FTC به دنبال توضیحات مفصلی در مورد نحوه دستیابی OpenAI به داده های خود، نحوه استفاده از این داده ها برای آموزش مدل و روش های موجود برای ارزیابی ریسک و ایمنی است.

علاوه بر این، FTC همچنین از OpenAI می‌خواهد تا اقداماتی را که برای کاهش خطر تولید LLM از اظهارات “کاذب، گمراه‌کننده یا تحقیرآمیز” در مورد افراد واقعی انجام داده است، فاش کند.

این تحقیقات به دنبال چندین حادثه با ChatGPT است که باعث نگرانی و حتی شکایت علیه OpenAI شده است.

به عنوان مثال، در 20 مارس یک نقض اطلاعات رخ داد که مکالمات کاربران ChatGPT و اطلاعات مربوط به پرداخت های مشترکین را فاش کرد. این نقض خطرات بالقوه استفاده از ابزارهای هوش مصنوعی را برجسته کرد و حتی باعث شد ایتالیا ChatGPT را به طور کلی ممنوع کند، اگرچه این ممنوعیت لغو شده است.

همچنین: اکثر کارگران می خواهند از هوش مصنوعی مولد برای پیشرفت شغلی خود استفاده کنند اما نمی دانند چگونه

موارد دیگر شامل دو شکایت دسته جمعی علیه OpenAI است. یکی از شکایت‌ها علیه OpenAI ادعا می‌کند که شرکت هوش مصنوعی از «داده‌های دزدیده شده» مشتریان برای آموزش و توسعه محصولات خود استفاده کرده است.

شکایت دیگر مربوط به توهمات ChatGPT و توانایی آن در تولید اظهارات نادرست درباره افراد است. در اولین پرونده افترای OpenAI، یک مجری رادیوی جورجیا پس از اینکه متوجه شد که ChatGPT ظاهراً اطلاعات نادرستی درباره او منتشر می کند و او را به اختلاس پول متهم می کند، از OpenAI شکایت کرد.