تشخیص سن واقعی کاربران فضای مجازی با هوش مصنوعی

به گزارش مشرق، از سایت AP، شرکت متاپلتفرمز (Platforms Meta)، شرکت مادر اینستاگرام، روز سه‌شنبه اعلام کرد که اینستاگرام آزمایش استفاده از هوش مصنوعی (Artificial Intelligence یا AI) برای تشخیص دروغ‌گویی کاربران نوجوان درباره سن واقعی‌شان را در این اپلیکیشن را آغاز کرده است.

به گفته متا، این شرکت مدتی است که از هوش مصنوعی برای تخمین سن کاربران استفاده می‌کند؛ اما از این پس، اپلیکیشن اشتراک‌گذاری عکس و ویدیو به‌صورت «فعالانه» به‌دنبال حساب‌هایی مشکوک خواهد بود که به نوجوانان تعلق دارند حتی اگر هنگام ثبت‌نام تاریخ تولد نادرستی وارد کرده باشند.

اگر مشخص شود کاربری سن واقعی خود را نادرست اعلام کرده، آن حساب کاربری به‌صورت خودکار به یک حساب نوجوان (Teen Accunt) تغییر وضعیت خواهد داد. حسابی که محدودیت‌های بیشتری نسبت به حساب بزرگسال دارد. حساب‌های نوجوان به‌صورت پیش‌فرض خصوصی (Private) هستند. در این حساب‌ها، پیام‌های خصوصی محدود شده‌اند؛ یعنی نوجوانان تنها می‌توانند از افرادی که آنها را دنبال می‌کنند یا با آنها در ارتباط هستند پیام دریافت کنند.

همچنین، محتواهای حساس (Content Sensitive) مانند ویدیوهای مربوط به دعوا یا مطالب ترویج‌دهنده جراحی‌های زیبایی برای این کاربران محدود می‌شود. علاوه بر آن، اگر نوجوانان بیش از 60 دقیقه در اینستاگرام بمانند، نوتیفیکیشن هشدار دریافت می‌کنند.

حالت خواب (Sleep Mode) نیز فعال می‌شود که از ساعت 10 شب تا 7 صبح اعلان‌ها را خاموش کرده و به پیام‌های مستقیم (Messages Direct) به‌صورت خودکار پاسخ می‌دهد. متا می‌گوید که الگوریتم هوش مصنوعی خود را با تحلیل سیگنال‌هایی مانند نوع محتوایی که کاربر با آن تعامل دارد، اطلاعات موجود در پروفایل و زمان ساخت حساب، آموزش داده تا بتواند سن کاربر را تخمین بزند.

تشدید اقدامات در واکنش به نگرانی‌های اجتماعی این اقدامات سخت‌گیرانه‌تر در حالی اجرا می‌شوند که شرکت‌های رسانه اجتماعی با فشار فزاینده‌ای در رابطه با تأثیر پلتفرم‌هایشان بر سلامت روانی و بهزیستی نوجوانان مواجه شده‌اند. در عین حال، تعداد فزاینده‌ای از ایالت‌های آمریکا در حال تلاش برای تصویب قوانین احراز هویت سنی هستند هرچند این قوانین با چالش‌های حقوقی در دادگاه‌ها روبه‌رو شده‌اند.

متا و دیگر شرکت‌های رسانه اجتماعی از این ایده حمایت می‌کنند که مسئولیت احراز سن کاربران باید بر عهده فروشگاه‌های اپلیکیشن (App Stores) باشد. این در حالی است که این شرکت‌ها به‌طور فزاینده‌ای با انتقادهایی روبه‌رو هستند مبنی بر اینکه تلاش کافی برای ایمن‌سازی محصولات خود برای کودکان انجام نمی‌دهند یا جلوی استفاده افراد زیر 13 سال را به‌طور مؤثر نمی‌گیرند.

اینستاگرام همچنین اعلام کرده که به والدین نوتیفیکیشن‌هایی ارسال خواهد شد که اطلاعاتی درباره اهمیت گفت‌وگو با فرزندانشان پیرامون وارد کردن سن واقعی به‌صورت آنلاین در اختیار آنها قرار می‌دهد.