شکایت خانواده یک دانش آموز از خالق ChatGPT در کانادا!
تیراندازی مرگبار اخیر در کانادا با شکایت خانوادهی یک دانشآموز از OpenAI وارد مرحلهی جدیدی شد.
OpenAI اعلام کرده بود که حساب کاربری فرد مهاجم را پیشتر به دلیل «سوء استفاده از مدلهای هوش مصنوعی برای اهداف خشونتآمیز» مسدود کرده بود، اما تصمیم گرفت که این موضوع را به پلیس اطلاع ندهد.
این تصمیم OpenAI با واکنش گستردهای روبهرو شده است و مقامات کانادایی خواستار بررسی بیشتر درمورد سیاستهای امنیتی این شرکت هستند.
تحقیقات نشان میدهد فرد مهاجم، سابقهی مشکلات روانی داشت و در شبکههای اجتماعی به اشتراکگذاری افکار خطرناک خود پرداخته بود. او همچنین بازیای با محتوای خشونتآمیز طراحی کرد که پس از وقوع تیراندازی از پلتفرم Roblox حذف شد. OpenAI توضیح داده است که فعالیتهای این فرد «آستانهی لازم برای گزارش به قانون» را نداشته است.
برخی کارشناسان معتقدند که این شرکت میتوانست با همکاری پلیس، اقدامات پیشگیرانهای انجام دهد. تریسی ویلانکور، استاد دانشگاه اتاوا، عدم گزارش به پلیس را «فرصتی ازدسترفته» میداند و بر لزوم ایجاد سازوکارهای امنیتی قویتر در پلتفرمهای هوش مصنوعی تاکید میکند.
دیدگاه