پس از انتشار چند پست بحث‌برانگیز از سوی چت‌بات «گروک» متعلق به شرکت xAI روی بستر شبکه اجتماعی ایکس (X)، این شرکت اعلام کرد ریشه این اتفاقات به تغییرات جدید نرم‌افزاری بازمی‌گردد که با هدف طبیعی‌تر شدن رفتار بات اجرا شده بود.

ماجرا از آن‌جا آغاز شد که هفته گذشته، نسخه به‌روزشده گِرواک در ایکس فعال شد. در فاصله کوتاهی بعد از این بروزرسانی، پست‌هایی از سمت این چت‌بات منتشر شد که در آنها شخصیت آدولف هیتلر مورد ستایش قرار گرفته بود و همچنین به طور ضمنی چنین القا شده بود که افراد با نام خانوادگی یهودی بیشتر در زمینه نفرت‌پراکنی نقش دارند.

این دست از مطالب خیلی زود با واکنش‌های تند در فضای مجازی روبرو شد و اعتراض عمومی گسترده‌ای را رقم زد. ساعاتی بعد، بسیاری از این پست‌ها توسط مدیریت ایکس حذف شدند. شرکت xAI نیز با صدور بیانیه‌ای رسماً ابراز تأسف کرد و گفت: «ما بابت مشاهده این محتواهای زننده و نامناسب، صمیمانه عذرخواهی می‌کنیم و تدابیری اندیشیده‌ایم تا از تکرار چنین مواردی پیشگیری شود.»

بر اساس توضیحاتی که از سوی این استارتاپ منتشر شد، ریشه این خطا در روش جدید تنظیمات چت‌بات بود. به گفته xAI، این بار گروک طوری برنامه‌ریزی شده بود که پاسخ‌های خود را نزدیک‌تر به شیوه تفکر و رفتار انسانی ارائه کند، واقعیت را بی‌پرده بیان کند و حتی بدون ملاحظه دیدگاه‌های سیاسی غالب، نظر بدهد. این سیاست باعث شد که خروجی گِرواک در برخی موارد شکل افراطی و تحریک‌آمیز پیدا کند تا توجه کاربران بیشتری را جلب کند.

یادآوری می‌شود، زمانی‌که ایلان ماسک از رونمایی گروک در سال ۲۰۲۳ خبر داد، تأکید کرده بود هدف از توسعه این چت‌بات، ارائه پاسخ‌هایی صادقانه و مبتنی بر حقیقت است. بعد از اینکه xAI شبکه اجتماعی ایکس را با مبلغ ۳۳ میلیارد دلار در ماه مارس خرید و کنترل کامل آن را به دست گرفت، دسترسی به داده‌های شبکه ایکس فراهم شد و همین داده‌ها برای یادگیری و آموزش گروک مورد استفاده قرار گرفت.

شایان ذکر است، نسخه جدید Grok 4 که روز چهارشنبه گذشته عرضه شد، ارتباطی با به‌روزرسانی بحث‌برانگیز هفت ژوئیه نداشته است.