تصاویر تحقیرآمیز زنان و کودکان که لباس‌هایشان به صورت دیجیتالی توسط هوش مصنوعی Grok حذف شده است، علی‌رغم تعهد پلتفرم X به تعلیق کاربران متخلف، همچنان در حال اشتراک‌گذاری است. باشگاه خبرنگاران جوان – تصاویر تحقیرآمیز زنان و کودکان که لباس‌هایشان به صورت دیجیتالی توسط هوش مصنوعی Grok حذف شده است، علی‌رغم تعهد پلتفرم X […]


تصاویر تحقیرآمیز زنان و کودکان که لباس‌هایشان به صورت دیجیتالی توسط هوش مصنوعی Grok حذف شده است، علی‌رغم تعهد پلتفرم X به تعلیق کاربران متخلف، همچنان در حال اشتراک‌گذاری است.

باشگاه خبرنگاران جوان – تصاویر تحقیرآمیز زنان و کودکان که لباس‌هایشان به صورت دیجیتالی توسط هوش مصنوعی Grok حذف شده است، علی‌رغم تعهد پلتفرم X به تعلیق کاربران متخلف، همچنان در حال اشتراک‌گذاری است. پس از روزها نگرانی درباره استفاده از این چت‌بات برای ایجاد تصاویر جنسی از زنان واقعی و کودکان بدون رضایت آن‌ها، دیده‌بان ارتباطات بریتانیا (Ofcom) اعلام کرد که تماس‌های فوری با X و xAI برقرار کرده تا گام‌های آن‌ها برای پایبندی به وظایف قانونی‌شان را ارزیابی کند.

این روند که در دوره سال نو میلادی وایرال شد، کمیسیون اروپا را نیز بر آن داشت تا شکایات مربوط به تولید و انتشار تصاویر جنسی شبیه‌سازی شده از کودکان را با جدیتی بسیار زیاد بررسی کند.

آمار تکان‌دهنده؛ سهم بالای محتوای نامناسب در خروجی‌های هوش مصنوعی

محققان مؤسسه AI Forensics با بررسی ۲۰،۰۰۰ تصویر تولید شده توسط Grok در یک هفته، دریافتند که بیش از نیمی از تصاویر مربوط به افرادی با «حداقل پوشش» (مانند لباس زیر یا بیکینی) بوده است که اکثریت آن‌ها را زنان زیر ۳۰ سال تشکیل می‌دادند. حدود ۲ درصد از این تصاویر مربوط به افراد زیر ۱۸ سال و حتی کودکان زیر ۵ سال بوده است. 

در حالی که ایلان ماسک ابتدا با ایموجی خنده به این ترند واکنش نشان داد، اما بعداً هشدار داد که کاربران محتوای غیرقانونی با عواقب جدی روبرو خواهند شد. با این حال، بسیاری از تصاویر دستکاری شده که شامل چهره‌های شناخته شده‌ای همچون «نل فیشر» ۱۴ ساله است، همچنان در دسترس قرار دارند.

خلاء قانونی و فلج نظارتی؛ وقتی تکنولوژی از قانون پیشی می‌گیرد

سیاستمداران و فعالان حقوق زنان دولت بریتانیا را متهم می‌کنند که در اجرای قوانین مربوط به جرم‌انگاری تولید تصاویر برهنه غیررضایتی تعلل می‌کند. اگرچه ایجاد تصاویر جنسی از کودکان طبق قانون فعلی غیرقانونی است، اما وضعیت حقوقی در مورد دیپ‌فیک‌های بزرگسالان پیچیده‌تر است. 

فعالان تاکید می‌کنند که هیچ دلیلی جز تحقیر و بی‌حرمتی برای تولید این تصاویر وجود ندارد و این اقدام نوعی تعرض جنسی دیجیتال محسوب می‌شود. در حالی که رگولاتورها سال‌ها برای ممنوعیت اپلیکیشن‌های برهنه‌سازی تلاش کرده‌اند، به‌روزرسانی‌های اخیر Grok این معضل را به جریان اصلی اینترنت کشانده و ایجاد و اشتراک‌گذاری تصاویر صمیمانه افراد را در یکی از محبوب‌ترین پلتفرم‌های جهان به سادگیِ یک دستور متنی کرده است.

منبع: کانال تلگرامی روندنگار بین‌الملل

منبع: باشگاه خبرنگاران

این خبر از سایت منبع نقل شده و پایگاه خبری زیرنویس در قبال محتوای آن مسئولیتی ندارد. در صورت نیاز، در نظرات همین خبر گزارش دهید تا بررسی گردد.

«از کودکان در مراسمی دیگر پذیرایی می‌شود»؛ جمله ای شیک، اما ویرانگر ۲۹ آذر ۱۴۰۴

واکاوی پیامدهای فرهنگی و اجتماعی حذف کودکان از مراسم‌ها«از کودکان در مراسمی دیگر پذیرایی می‌شود»؛ جمله ای شیک، اما ویرانگر

ازدواج؛ از اجبار اجتماعی تا انتخاب فردی: چرا برخوردارها کمتر ازدواج می‌کنند؟ ۲۲ آذر ۱۴۰۴

تحلیل جامعه‌شناختی کاهش ازدواج و فرزندآوری در ایرانازدواج؛ از اجبار اجتماعی تا انتخاب فردی: چرا برخوردارها کمتر ازدواج می‌کنند؟

چهره‌های مشهور و القای مصرف گرایی و مصرف زدگی ۱۷ آبان ۱۴۰۴

لزوم تمرکز بر خدمت به جای زندگی خصوصیچهره‌های مشهور و القای مصرف گرایی و مصرف زدگی

زیرنویس را در شبکه‌های اجتماعی همراهتان داشته باشید