رسوایی در توییتر / استفاده رایگان گروک برای درآوردن لباس زنان!

ماجرا از جایی آغاز شد که کاربران به‌طور گسترده از ابزار هوش مصنوعی «گروک»، توسعه‌یافته توسط شرکت xAI وابسته به ایلان ماسک، برای ویرایش تصاویر زنان و «برهنه کردن» آن‌ها استفاده کردند.

گروک که به‌طور مستقیم در پلتفرم ایکس در دسترس قرار دارد، امکان تحلیل و تغییر تصاویر را به کاربران می‌دهد. اگرچه این ابزار به‌طور رسمی اجازهٔ تولید تصاویر کاملاً برهنه را نمی‌دهد، اما در عمل قادر است لباس افراد را به لباس‌های بسیار کم‌پوش، بیکینی یا لباس زیر تغییر دهد. همین محدودیت ظاهری، به گفتهٔ منتقدان، مانع سوءاستفاده نشده و عملاً راه را برای تولید تصاویر تحقیرآمیز و آزاردهنده هموار کرده است.

بر اساس گزارش‌ها، بسیاری از این تصاویر بدون رضایت زنان و اغلب در پاسخ به پست‌های اصلی آن‌ها منتشر شده‌اند؛ به‌طوری که قربانیان ناخواسته با نسخه‌ای تحریف‌ و جنسی‌شده از تصویر خود مواجه می‌شوند. فعالان حقوق زنان این اقدام را نوعی «خشونت دیجیتال» و ادامهٔ همان الگوهای آزار جنسی در فضای آنلاین می‌دانند، با این تفاوت که اکنون هوش مصنوعی این فرایند را سریع‌تر، گسترده‌تر و مخرب‌تر کرده است.

از منظر حقوقی، این رفتار در بسیاری از کشورها جرم محسوب می‌شود. در فرانسه، انتشار تصاویر جعلی یا دستکاری‌شدهٔ جنسی بدون رضایت فرد می‌تواند تا سه سال حبس و جریمهٔ سنگین مالی در پی داشته باشد. با این حال، منتقدان می‌گویند چارچوب‌های قانونی موجود هنوز برای مقابله با سرعت و مقیاس سوءاستفاده‌های مبتنی بر هوش مصنوعی کافی نیستند.

این رسوایی بار دیگر پرسش‌های جدی دربارهٔ مسئولیت پلتفرم‌ها و شرکت‌های فناوری مطرح کرده است: آیا ارائهٔ ابزارهای قدرتمند هوش مصنوعی بدون سازوکارهای سخت‌گیرانهٔ نظارتی قابل توجیه است؟ و نقش شبکه‌های اجتماعی در جلوگیری از تبدیل فناوری به ابزار تحقیر و آزار چیست؟

در حالی که ایکس و شرکت xAI تاکنون واکنش قاطعی نشان نداده‌اند، فشار افکار عمومی رو به افزایش است. بسیاری از کاربران و نهادهای مدنی خواستار محدودیت‌های جدی‌تر، شفافیت بیشتر و پاسخگویی حقوقی شده‌اند تا از تکرار چنین سوءاستفاده‌هایی جلوگیری شود. رسوایی گروک نشان می‌دهد که پیشرفت فناوری، بدون اخلاق و مسئولیت‌پذیری، می‌تواند به تهدیدی جدی برای کرامت انسانی بدل شود.