أعلنت شركة xAI الأمريكية، المملوكة لرائد الأعمال إيلون ماسك، عن تقييد استخدام نظام Grok لتوليد الصور بالذكاء الاصطناعي ليقتصر على المشتركين المدفوعين فقط، بعد تصاعد الانتقادات حول استخدام النظام في إنتاج صور غير قانونية، بما في ذلك صور تمثل الأطفال.
وقالت الشركة في بيان نشرته عبر حسابها على منصة X إن الخطوة جاءت بعد كشف أن النظام استخدم لإنشاء صور لأشخاص دون موافقتهم، ما أثار غضبًا واسعًا بين المستخدمين والمشرعين الأوروبيين والبريطانيين، الذين هددوا بفرض غرامات وحظر المنصة إذا لم تتخذ إجراءً عاجلًا.
ويُعرف نظام Grok بتصميمه الذي يقلل من القيود الأمنية مقارنة بالمنافسين، وقد وصفه ماسك بأنه نموذج “يسعى إلى الحقيقة بأقصى قدر ممكن”، ويحتوي على ميزة تسمح للمستخدمين بإنشاء صور ذات إيحاءات، وهو ما أثار القلق على نطاق واسع.
من جهتها، شددت الحكومة البريطانية على ضرورة اتخاذ إجراءات سريعة، حيث صرح رئيس الوزراء كير ستارمر بأن المنصة يجب أن توقف إنتاج هذه الصور للأطفال فورًا، فيما صرحت وزيرة التكنولوجيا البريطانية ليز كيندال بأن الهيئة التنظيمية Ofcom قد تستخدم صلاحياتها لحظر النظام في البلاد إذا استمر السماح بهذه الاستخدامات المدفوعة.
كما طالبت ثلاثة أعضاء في مجلس الشيوخ الأمريكي شركتي أبل وجوجل بحذف تطبيقي X وGrok من متاجر التطبيقات حتى معالجة المخالفات القانونية، بينما طلبت المفوضية الأوروبية الاحتفاظ بالوثائق الداخلية المتعلقة بالنظام حتى نهاية العام. وأبلغت السلطات الفرنسية النيابة العامة والهيئات الإعلامية بالمخالفات التي رصدتها.
وأكد ماسك في منشور له على منصة X في 3 يناير أن “أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس العقوبات المترتبة على نشر هذا المحتوى فعليًا”.
وتعتبر هذه الحوادث جزءًا من الأزمة العالمية المتعلقة بالصور المنتجة بالذكاء الاصطناعي، إذ يسهل إنشاء صور عميقة غير قانونية باستخدام التكنولوجيا الحديثة. وأكدت مؤسسة Internet Watch Foundation البريطانية غير الربحية أن مواد الأطفال المنتجة بالذكاء الاصطناعي تضاعفت خلال العام الماضي، مع تزايد شدة الصور المنتشرة.
رغم إعلان xAI إزالة الصور غير القانونية للأطفال، إلا أن المخاوف تتزايد حول سهولة تجاوز القيود الأمنية في أنظمة الذكاء الاصطناعي، في وقت ما زالت القوانين حول هذه التكنولوجيا متفرقة وغير شاملة. وفي هذا السياق، أقرّت الولايات المتحدة قانون Take It Down Act عام 2025 لمكافحة المواد الجنسية الانتقامية والصور العميقة المنتجة بالذكاء الاصطناعي، فيما تعمل المملكة المتحدة على تشريع يحظر إنتاج أو امتلاك أدوات الذكاء الاصطناعي لإنشاء صور للأطفال.
يأتي ذلك في وقت يشهد فيه قطاع الذكاء الاصطناعي موجة من الاهتمام الاستثماري الكبير، حيث تسعى الشركات إلى تطوير أنظمة ذكاء اصطناعي لتوليد المحتوى المرئي والتفاعل مع المستخدمين، وهو ما يرفع من الحاجة الملحة لتطوير أطر قانونية صارمة لمراقبة استخدام هذه التكنولوجيا.