Character.ai اکنون می‌تواند به والدین بگوید که فرزندانشان با کدام ربات‌ها صحبت می‌کنند
تاریخ انتشار:
معرفی ویژگی جدید
سرویس چت‌بات Character.AI یک ویژگی جدید به نام «بینش والدین» را اضافه کرده است که به نوجوانان این امکان را می‌دهد که یک گزارش هفتگی از استفاده خود از چت‌بات‌ها را به آدرس ایمیل والدین خود ارسال کنند. طبق اعلامیه‌ای که از سوی این شرکت منتشر شده است، این گزارش شامل میانگین زمان روزانه صرف شده در وب و موبایل، شخصیت‌هایی که کاربر بیشتر با آن‌ها تعامل داشته و همچنین مدت زمانی که صرف صحبت با هر شخصیت کرده‌اند، می‌باشد. این ویژگی بخشی از مجموعه‌ای از به‌روزرسانی‌ها است که به منظور رفع نگرانی‌ها در مورد صرف زمان زیاد نوجوانان با چت‌بات‌ها و مواجهه با محتوای نامناسب در طول چت‌ها طراحی شده است.
جزئیات گزارش
این گزارش که نیازی به داشتن حساب کاربری برای والدین ندارد، اختیاری است و می‌تواند توسط کاربران نوجوان در تنظیمات Character.AI تنظیم شود. این شرکت تأکید می‌کند که این گزارش یک نمای کلی از فعالیت‌های نوجوانان است و نه یک گزارش کامل — بنابراین محتوای مکالمات چت‌بات به اشتراک گذاشته نخواهد شد. این پلتفرم در اکثر مکان‌ها دسترسی کودکان زیر 13 سال و در اروپا زیر 16 سال را ممنوع کرده است.
تاریخچه و نگرانی‌ها
Character.AI از سال گذشته ویژگی‌های جدیدی برای کاربران زیر سن قانونی معرفی کرده است که همزمان با نگرانی‌ها و حتی شکایات قانونی در مورد خدمات آن بوده است. این پلتفرم که در میان نوجوانان محبوب است، به کاربران این امکان را می‌دهد که چت‌بات‌هایی را ایجاد و سفارشی‌سازی کنند که با آن‌ها تعامل داشته باشند یا به‌طور عمومی به اشتراک بگذارند. اما چندین شکایت حقوقی ادعا می‌کنند که این ربات‌ها محتوای نامناسب و جنسی را ارائه داده‌اند یا موادی را ترویج کرده‌اند که به خودآزاری منجر می‌شود. همچنین گزارش شده است که این شرکت هشدارهایی از اپل و گوگل (که سال گذشته بنیان‌گذاران Character.AI را استخدام کردند) در مورد محتوای اپلیکیشن خود دریافت کرده است.
تغییرات در سیستم
این شرکت می‌گوید که سیستم خود را از آن زمان بازطراحی کرده است؛ در میان دیگر تغییرات، کاربران زیر 18 سال را به مدلی منتقل کرده است که برای اجتناب از خروجی‌های "حساس" آموزش دیده است و اعلان‌های بیشتری اضافه کرده است که به کاربران یادآوری می‌کند که ربات‌ها افراد واقعی نیستند. اما با افزایش اشتیاق برای تنظیم‌گری هوش مصنوعی و قوانین ایمنی کودکان، احتمالاً این آخرین گام نخواهد بود که این شرکت مجبور به انجام آن می‌شود.