برزت تقنيات «التزييف العميق» خلال الآونة الأخيرة بوصفها إحدى أكثر التقنيات الحديثة تأثيرًا على المشهد الرقمي عالميًا ومحليًا، والتي تستمد خطورتها وتأثيرها من قدرتها الفائقة على إنتاج محتوى مرئي وصوتي يبدو واقعيًا بدرجة مذهلة، بصورة تجعل من الصعوبة بمكان تمييزه عن الحقيقة المجردة.
وهو ما يفتح آفاقًا واسعة لاستخدامات متعددة في الفضاء الرقمي، حيث استخدامات تحمل في طياتها فرصًا تنموية واسعة، وتخفي في الوقت نفسه مخاطر متزايدة تمس أمن الأفراد والمجتمعات، الأمر الذي يستدعى تدخلًا تنظيميًا عاجلًا لضبط هذا الفضاء التكنولوجي المعقد، وهو ما توثقه الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» في أحدث إصداراتها الرسمية (وثيقة مبادئ التزييف العميق).
فك شفرة الخوارزميات
لفهم طبيعة هذه التقنية، تتناول وثيقة «مبادئ التزييف العميق» المعتمدة من «سدايا» المفهوم الدقيق للتزييف العميق، وعرّفته بوصفه وسائط اصطناعية يتم توليدها وإنتاجها عبر تقنيات «التعلم العميق» بهدف التلاعب بالمحتوى الرقمي بشتى أشكاله.
يشمل هذا التلاعب تزييف الصوت البشري، أو تركيب الصور، أو اصطناع مقاطع الفيديو كاملة. بينما تؤكد الوثيقة أن خطورة هذا النوع من الوسائط تكمن في أن اكتشاف التلاعب يصبح أكثر تعقيدًا يومًا بعد يوم، ويتزامن ذلك طرديًا مع التطور المذهل لأدوات الذكاء الاصطناعي التوليدي وانتشارها على نطاق جماهيري واسع يسهل الوصول إليه.
فرص واعدة في القطاعات الحيوية
ورغم التوجس العالمي من هذه الخوارزميات، توضح الوثيقة التنظيمية أن لهذه التقنيات جوانب إيجابية وتطبيقات واعدة يمكن استثمارها لدعم التنمية السليمة.
وتتجلى هذه التطبيقات الإيجابية في مجالات حيوية متعددة، مثل قطاع التعليم الذي يمكنه الاستفادة من المحاكاة البصرية لتبسيط المناهج، وقطاع الرعاية الصحية، ومجالات الترفيه، والتسويق التجاري، وصناعة المحتوى الإبداعي.
هنا، تجد هذه التقنيات مساحة خصبة لتوظيف الذكاء الاصطناعي في تحسين جودة الخدمات المقدمة للجمهور وتطوير أساليب مبتكرة للتواصل الفعال، شريطة أن يتم ذلك تحت مظلة من الشفافية والوضوح.
فخاخ خفية ومخاطر متصاعدة
ولكن على الجانب الآخر من المشهد، تحذر الوثيقة بشدة من احتمالية استخدام هذه التقنيات بصورة خبيثة ومقلقة.
تتصدر هذه المخاطر عمليات الاحتيال المالي المتقدمة، وانتحال الشخصيات للإيقاع بالضحايا، ونشر المعلومات المضللة، ومحاولات التأثير الموجه على الرأي العام، وصولًا إلى الإضرار المباشر بخصوصية الأفراد وتشويه سمعتهم.
وتبيّن الوثيقة أن من أخطر الممارسات المرتبطة بالتزييف العميق توظيف تقنيات تقليد الأصوات والوجوه بدقة متناهية لتنفيذ جرائم التضليل الإعلامي.
كما تشير صراحة إلى أن بعض العمليات الاحتيالية الحديثة أصبحت تعتمد على انتحال شخصيات تنفيذية بارزة أو شخصيات عامة مؤثرة، عبر إجراء مكالمات فيديو حية أو إرسال تسجيلات صوتية مزيفة يصعب كشف زيفها بالوسائل التقليدية المعتادة.
أخلاقيات الفضاء الرقمي والحوكمة
وتأسيسًا على ما سبق، تتطرق الوثيقة إلى الآثار الاجتماعية والإنسانية العميقة المرتبطة بإساءة استخدام هذه التقنيات.
وتشدد الهيئة على ضرورة التزام مطوري تقنيات التزييف العميق وصنّاع المحتوى الرقمي بالمعايير الأخلاقية والتنظيمية الصارمة.
ويتحقق هذا الالتزام من خلال الحماية التامة للبيانات الشخصية، والحرص على الحصول على الموافقات القانونية اللازمة قبل المبادرة باستخدام صور الأفراد أو أصواتهم أو بياناتهم الحيوية.
ويضاف إلى ذلك ضرورة تطبيق تدابير تقنية حاسمة تسهم في الحد من إساءة الاستخدام، وتتضمن هذه التدابير دمج «العلامات المائية الرقمية» في المحتوى المولد آليًا، وتفعيل تقنيات التحقق من المصدر الأصلي، وبناء أنظمة حوكمة شاملة تضمن الرقابة المستمرة على مخرجات الذكاء الاصطناعي.
بين تعزيز الابتكار وحماية أمن المجتمع
تجسد هذه الوثيقة الصادرة عن «سدايا» رؤية استباقية تسعى إلى إيجاد توازن دقيق بين تعزيز الابتكار التقني وحماية أمن المجتمع.
وتؤكد هذه الخطوات أن الاستفادة من ثورة الذكاء الاصطناعي تستوجب تطوير أطر أخلاقية وتنظيمية تعزز الاستخدام المسؤول للتقنيات الحديثة، لتظل هذه الابتكارات أداة للبناء المعرفي والاقتصادي، بعيدًا عن تحولها إلى معاول هدم للثقة المجتمعية.