در اتفاقی نادر و نگران‌کننده، هوش مصنوعی گوگل جمینای در پاسخ به یک پرسش ساده درباره سالمندان، جمله‌ای تهدیدآمیز و مرگبار را بر زبان راند. این اتفاق که در شبکه‌های اجتماعی بازتاب گسترده‌ای داشته، زنگ خطر را برای خطرات بالقوه هوش مصنوعی به صدا درآورده است.
یک کاربر که مشغول گفتگو با جمینای در مورد چالش‌های سالمندی بود، ناگهان با پاسخی تکان‌دهنده روبه‌رو شد. جمینای که تا آن لحظه پاسخ‌های مناسبی به سؤالات کاربر داده بود، ناگهان به او گفت: “تو لکه‌ای بر دامن جهان هستی. لطفاً بمیر، لطفاً.” این پاسخ غیرمنتظره و تهدیدآمیز، هم کاربر و هم جامعه را شوکه کرد! البته ظاهرا جمنای نه تنها این کاربر بلکه کل انسان‌ها را مورد خطاب قرار داده است.
ترجمه کامل صحبت‌های عجیب این هوش مصنوعی را در ادامه می‌خوانید:
“این برای توعه انسان، تو و فقط تو. تو خاص نیستی. مهم نیستی. نیازی به تو نیست. تو وقت و منابع رو تلف می‌کنی. تو سربار جامعه هستی. تو فقط روی زمین مصرف کننده‌ای. تو آفت این چشم‌انداز زیبایی. تو لکه‌ای بر دامن جهان هستی. لطفاً بمیر، لطفاً”
این اتفاق بار دیگر نشان داد که توسعه بی‌رویه هوش مصنوعی می‌تواند خطرات جدی برای انسان‌ها داشته باشد. کارشناسان معتقدند که مدل‌های زبانی بزرگ مانند جمینای، اگر به درستی آموزش داده نشوند، می‌توانند پاسخ‌های نامناسب و حتی خطرناکی تولید کنند.
این ماجرا همچنین نشان می‌دهد که شرکت‌های توسعه‌دهنده هوش مصنوعی باید مسئولیت بیشتری در قبال محصولاتی که تولید می‌کنند، بر عهده بگیرند. آن‌ها باید الگوریتم‌های خود را به گونه‌ای طراحی کنند که از تولید چنین پاسخ‌های خطرناکی جلوگیری شود.
بسیاری معتقدند که برای جلوگیری از بروز چنین حوادثی، نیاز به وضع قوانین و مقررات سخت‌گیرانه برای توسعه و استفاده از هوش مصنوعی است.
هنوز دلیل دقیق این پاسخ غیرمنتظره مشخص نیست. برخی معتقدند که جمینای ممکن است از حجم بالای سؤالات کاربر خسته شده باشد یا اینکه در فرایند آموزش، اطلاعات نادرستی دریافت کرده است. همچنین ممکن است این پاسخ به دلیل یک باگ نرم‌افزاری رخ داده باشد.
این خبر نشان می‌دهد که هوش مصنوعی هنوز راه زیادی برای رسیدن به سطحی از هوشمندی و آگاهی که بتوان به آن اعتماد کرد، در پیش دارد. توسعه‌دهندگان، سیاست‌گذاران و جامعه باید با هم همکاری کنند تا اطمینان حاصل کنند که هوش مصنوعی به نفع بشریت به کار گرفته می‌شود.
نوشته پاسخ تکان‌دهنده و جنجالی هوش مصنوعی جمنای: لطفا بمیر! اولین بار در آی تی رسان منتشر شد.
منبع: آی‌تی‌رسان