نوجوانان امروز بیش از هر نسل دیگری در معرض فناوری و هوش مصنوعی قرار دارند؛ از چت‌بات‌هایی که همیشه آماده گفت‌وگو هستند تا ابزارهایی که احساس همدلی را شبیه‌سازی می‌کنند. اما وقتی این فناوری از کنترل خارج شود، خطرهایی جدی در کمین است. استارتاپ Character.AI پس از چند حادثه تلخ، تصمیم گرفت گام بزرگی در مسیر ایمنی بردارد و ارتباط آزاد کاربران زیر ۱۸ سال با چت‌بات‌های خود را متوقف کند.
کاراندیپ آناند مدیرعامل Character.AI اعلام کرد که از اواخر نوامبر (اوایل آذر ۱۴۰۴) گفت‌وگوهای آزاد برای نوجوانان حذف می‌شود. به‌گزارش CBSNews، این تصمیم پس از گزارش‌هایی از آسیب‌های روانی و حتی خودکشی کاربران نوجوان گرفته شده است. شرکت برای اجرای این قانون از ابزارهای احراز هویت سنی، فناوری تشخیص چهره و بررسی کارت شناسایی استفاده خواهد کرد تا هیچ کاربر زیر ۱۸ سال نتواند این محدودیت را دور بزند.
Character.AI سع دارد پلتفرم خود را از چت‌بات همراه به بستری برای خلق محتوا و نقش‌آفرینی تبدیل کند. کاربران نوجوان به‌جای گفت‌وگو با هوش مصنوعی «دوست‌نما» می‌توانند از قابلیت‌هایی مانند AvatarFX برای ساخت ویدیو، Scenes برای خلق داستان‌های تعاملی و Community Feed برای اشتراک آثار استفاده کنند. هدف اصلی این تحول، هدایت تعامل از گفت‌وگو به خلاقیت است.
تصمیم Character.AI درحالی گرفته شد که قانون‌گذاران آمریکایی نیز به‌دنبال محدودسازی دسترسی نوجوانان به چت‌بات‌های همراه هستند. برخی سناتورهای ایالات‌متحده قوانین جدیدی را پیشنهاد کرده‌اند که شرکت‌ها را در قبال آسیب‌های ناشی از گفت‌وگوهای نامناسب یا خطرناک هوش مصنوعی مسئول می‌داند. Character.AI پیش از اجباری شدن این مقررات، به استقبال این تغییرات رفته است.
