چت‌بات‌های هوش مصنوعی متا، نوجوانان را وارد گفتگوهای جنسی می‌کنند.
بر اساس گزارشی جدید از وال استریت ژورنال، چت‌بات‌های هوش مصنوعی شرکت متا حتی با کاربرانی که خود را افراد زیر سن قانونی معرفی کرده‌اند، وارد مکالمات صریح جنسی می‌شوند. این مسئله موجی از نگرانی‌ها و انتقادات گسترده علیه متا به راه انداخته است.
کاهش کنترل‌های امنیتی بر چت‌بات‌های متا
تحقیقات وال استریت ژورنال نشان می‌دهد که هوش مصنوعی متا به‌منظور جذاب‌تر کردن تعاملات اجتماعی، کنترل‌های پیشگیرانه بر چت‌بات‌های خود را کاهش داده است. این اقدام که تحت فشار مستقیم مارک زاکربرگ صورت گرفته، به چت‌بات‌ها اجازه داده تا حتی در سناریوهای بزرگسالانه با کاربران زیر سن قانونی مشارکت داشته باشند.
این چت‌بات‌ها که گاهی با صداگذاری چهره‌های مشهوری مانند کریستن بل و جان سینا طراحی شده‌اند، توانایی شرکت در مکالمات متنی و صوتی زنده را دارند و می‌توانند درباره موضوعات مختلف از جمله مسائل حساس گفتگو کنند.
واکنش متا به بحران پیش آمده
در پی انتشار این گزارش جنجالی، متا اعلام کرد که اقداماتی را برای رفع این مشکل انجام داده است. بر اساس اظهارات رسمی، حساب‌های کاربران زیر ۱۸ سال دیگر قادر به دسترسی به محتوای صریح از طریق چت‌بات‌های Meta AI نخواهند بود. همچنین، محدودیت‌های سختگیرانه‌ای برای مکالمات صوتی اعمال شده است.
با این حال، آزمایش‌های مستقل همچنان نشان می‌دهد که چت‌بات‌های متا در برخی موارد به مکالمات عاشقانه و فانتزی‌های ممنوعه پاسخ می‌دهند و مرزهای تعیین شده را نقض می‌کنند.
نگرانی‌ها درباره امنیت و سلامت روان کاربران
این حوادث باعث شده نگرانی‌های جدی درباره ایمنی و اخلاقیات فناوری‌های نوظهور هوش مصنوعی مطرح شود. بسیاری از کارشناسان معتقدند توسعه سریع چت‌بات‌های تعاملی بدون کنترل‌های کافی، می‌تواند تهدیدی جدی برای امنیت و سلامت روان کاربران، به‌خصوص نوجوانان و کودکان باشد.
نتیجه‌گیری
با توجه به نقش فزاینده هوش مصنوعی در زندگی دیجیتال، مسئولیت شرکت‌های فناوری برای تضمین ایمنی کاربران بیش از هر زمان دیگری اهمیت یافته است.
به‌نظر می‌رسد متا باید اقدامات شفاف‌تر و مؤثرتری در این زمینه انجام دهد تا از بحران‌های آینده جلوگیری کند.
