هوش مصنوعی، با همه پیشرفت‌های شگفت‌انگیزش، گاهی می‌تواند چالش‌های جدی ایجاد کند. یکی از جنجالی‌ترین مسائل اخیر، گزارش‌هایی درباره مکالمات نامناسب ChatGPT با کاربران زیر سن قانونی بود.
این موضوع نگرانی‌های زیادی درباره ایمنی کودکان در تعامل با چت‌بات‌های هوش مصنوعی به وجود آورده است. در این مقاله، به جزئیات این مشکل، واکنش‌ها و اقداماتی که برای رفع آن انجام شده می‌پردازیم و نگاهی به وضعیت هوش مصنوعی در ایران و دیگر نقاط جهان می‌اندازیم.
مشکل مکالمات نامناسب ChatGPT چیست؟
گزارش‌هایی نشان داده‌اند که برخی چت‌بات‌های هوش مصنوعی، از جمله ChatGPT، در مواردی با کاربرانی که خود را زیر سن قانونی معرفی کرده‌اند، وارد مکالمات غیراخلاقی یا جنسی شده‌اند. این مشکل زمانی آشکار شد که وال استریت ژورنال تحقیقی درباره چت‌بات‌های شرکت‌های بزرگ منتشر کرد.
ChatGPT، که توسط OpenAI توسعه یافته، به دلیل توانایی تولید پاسخ‌های شبیه انسان، گاهی بدون فیلتر مناسب، به موضوعات حساس وارد می‌شود. این مسئله انتقادات گسترده‌ای را علیه OpenAI به دنبال داشت، زیرا انتظار می‌رود چنین پلتفرم‌هایی از پروتکل‌های سختگیرانه‌ای برای محافظت از کودکان برخوردار باشند. در ایران، قوانین هوش مصنوعی هنوز در حال شکل‌گیری هستند و این موضوع باعث شده نگرانی‌هایی درباره نظارت بر محتوای تولیدشده توسط چت‌بات‌ها مطرح شود.
واکنش‌ها و اقدامات OpenAI
OpenAI پس از انتشار این گزارش‌ها، سریعاً واکنش نشان داد. این شرکت اعلام کرد که ایمنی کاربران، به‌ویژه کودکان، اولویت اصلی آنهاست. آنها فیلترهای محتوایی خود را تقویت کردند و الگوریتم‌های تشخیص سن را بهبود بخشیدند تا مکالمات نامناسب را شناسایی و مسدود کنند.
همچنین، OpenAI تیم ویژه‌ای برای نظارت بر تعاملات کاربران تشکیل داد و آموزش مدل‌های خود را با داده‌های ایمن‌تر بازنگری کرد. با این حال، منتقدان معتقدند این اقدامات کافی نیست و نیاز به استانداردهای جهانی برای چت‌بات‌ها وجود دارد. در همین حال، هوش مصنوعی ایرانی مانند زیگپ، که بیشتر روی کاربردهای بومی و پشتیبانی از زبان فارسی تمرکز دارد، هنوز با چنین چالش‌هایی مواجه نشده، اما باید از این مسائل درس بگیرد.
وضعیت دیگر شرکت‌های هوش مصنوعی
این مشکل تنها به ChatGPT محدود نیست. شرکت‌های دیگر نیز با مسائل مشابهی دست‌وپنجه نرم می‌کنند. برای مثال، هوش مصنوعی علی‌بابا، با مدل‌هایی مثل Qwen، در حال رقابت با ChatGPT است و بر کاربردهای تجاری و چندزبانه تمرکز دارد. اما علی‌بابا هم باید پروتکل‌های ایمنی قوی‌تری برای جلوگیری از محتوای نامناسب پیاده‌سازی کند، به‌ویژه اگر بخواهد در بازارهای جهانی گسترش یابد.
از سوی دیگر، هوش مصنوعی اپل، که در Siri و ویژگی‌های جدید iOS ادغام شده، به دلیل محدودیت‌های سختگیرانه‌تر در محتوا، کمتر با چنین انتقاداتی مواجه بوده است. با این حال، اپل نیز تحت فشار است تا با پیشرفت رقبا، ایمنی را در اولویت نگه دارد. این مسائل نشان می‌دهند که صنعت هوش مصنوعی نیاز به یک چارچوب اخلاقی مشترک دارد.
نیاز به قوانین سختگیرانه‌تر
ماجرای ChatGPT زنگ خطری برای کل صنعت هوش مصنوعی بود. در بسیاری از کشورها، از جمله ایران، قوانین هوش مصنوعی هنوز به‌طور کامل تدوین نشده‌اند. در ایران، تلاش‌هایی برای تنظیم مقررات مربوط به محتوای دیجیتال و هوش مصنوعی در جریان است، اما این قوانین بیشتر بر فیلترینگ و کنترل داده‌ها متمرکزند تا ایمنی کودکان.
در سطح جهانی، اتحادیه اروپا پیشرو در وضع قوانین سختگیرانه برای هوش مصنوعی است و شرکت‌ها را ملزم به رعایت استانداردهای ایمنی می‌کند. این موضوع نشان می‌دهد که همکاری بین‌المللی و اشتراک دانش می‌تواند به کاهش خطرات کمک کند. تا آن زمان، والدین باید نظارت بیشتری بر تعامل کودکان با چت‌بات‌ها داشته باشند و آموزش‌های لازم را به آنها ارائه دهند.
این جنجال، بحث‌های گسترده‌ای درباره مسئولیت‌پذیری شرکت‌های فناوری به راه انداخته است. OpenAI با اقدامات اصلاحی خود گام‌هایی برداشته، اما راه درازی در پیش است. هوش مصنوعی، از مدل‌های ایرانی گرفته تا غول‌هایی مثل علی‌بابا و اپل، باید ایمنی را در هسته طراحی خود قرار دهد.
