اختبار يكشف ثغرات في أداة ميتا لاكتشاف الصور المولدة بالذكاء الاصطناعي

تقرير: فريق الراهن

رغم وعودها بقدرة عالية على كشف المحتوى المُولّد بالذكاء الاصطناعي، أظهر اختبار حديث أن أداة طورتها شركة ميتا تواجه صعوبة في التعرف على الصور بعد إجراء تعديلات بسيطة عليها، ما يثير تساؤلات حول فعالية تقنيات العلامات الرقمية في مواجهة التضليل الرقمي.

كانت ميتا قد أطلقت مولد الصور الخاص بها مع نظام يعتمد على “علامة رقمية” أو بصمة خفية تُدمج داخل الصور المولدة بالذكاء الاصطناعي، مؤكدة أن هذه العلامة تظل موجودة حتى بعد عمليات الضغط أو تغيير الحجم أو التقاط لقطة شاشة، بما يسمح بالتعرف على مصدر الصورة حتى بعد تعديلها.

غير أن اختبارًا حديثًا أظهر أن أداء أداة الكشف يتراجع بصورة ملحوظة عند إجراء تعديلات بسيطة على الصور.

فبينما تمكنت الأداة من التعرف على الصور الأصلية بدقة كاملة، انخفضت قدرتها على اكتشافها بشكل كبير بعد قص أجزاء من الصورة، سواء إلى النصف أو إلى الثلث، وهو تعديل يمكن تنفيذه بسهولة باستخدام أي برنامج لتحرير الصور.

تحديات متزايدة في مواجهة التزييف العميق

تعكس هذه النتائج التحديات المتنامية التي تواجه شركات التقنية في الحد من انتشار المحتوى المزيف، خاصة مع التطور السريع لتقنيات التزييف العميق والذكاء الاصطناعي التوليدي، التي باتت تنتج صورًا يصعب تمييزها عن الصور الحقيقية.

وتعتمد معظم أدوات الكشف الحالية على تقنيات الذكاء الاصطناعي أيضًا، ما يجعلها في سباق مستمر مع أدوات التوليد.

فكلما أصبحت النماذج أكثر تطورًا في إنتاج محتوى واقعي، ازدادت صعوبة اكتشافه، الأمر الذي يفرض تحديات متزايدة أمام المنصات الرقمية ووسائل الإعلام والمستخدمين.

الثقة الرقمية على المحك

وتسلط نتائج الاختبار الضوء على أهمية تطوير وسائل أكثر موثوقية للتحقق من المحتوى الرقمي، إذ إن فعالية العلامات الرقمية تصبح محل تساؤل إذا كان بالإمكان تعطيلها أو إضعافها عبر تعديلات بسيطة.

ويكتسب هذا التحدي أهمية أكبر مع توجه ميتا وشركات تقنية أخرى إلى توسيع أدوات إنتاج الفيديو بالذكاء الاصطناعي، حيث يصبح المحتوى المزيف أكثر تأثيرًا وقدرة على الانتشار بسرعة عبر المنصات الرقمية.

ويرى مراقبون أن مستقبل مكافحة التضليل لن يعتمد على تقنية واحدة، بل على مزيج من العلامات الرقمية، وأنظمة التحقق، والتوعية الإعلامية، بما يعزز قدرة المستخدمين على التمييز بين المحتوى الحقيقي والمحتوى المُولّد بالذكاء الاصطناعي في بيئة رقمية تتطور بوتيرة متسارعة.