قم برمي حجر ومن المحتمل أن تصطدم بالتزييف العميق. أدى تسليع الذكاء الاصطناعي المنتج إلى انفجار مطلق للمحتوى المزيف عبر الإنترنت: وفقًا لمنصة التحقق من الهوية Sumsub، كانت هناك زيادة بمقدار 4 أضعاف في عمليات التزييف العميق في جميع أنحاء العالم من عام 2023 إلى عام 2024. وفي عام 2024، شكلت التزييف العميق 7٪ من إجمالي عمليات الاحتيال، وفقًا لـ Sumsub بدءًا من انتحال الشخصية والاستيلاء على الحساب وحتى حملات الهندسة الاجتماعية المتطورة.
فيما تأمل أن تكون مساهمة ذات معنى في مكافحة التزييف العميق، تطلق Meta أداة لتطبيق علامات مائية غير محسوسة على مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. تم الإعلان عن الأداة، التي تسمى Meta Video Seal، يوم الخميس، وهي متاحة في مصدر مفتوح ومصممة ليتم دمجها في البرامج الحالية. تنضم الأداة إلى أدوات العلامات المائية الأخرى الخاصة بـ Meta، Watermark Anything (أعيد إصدارها اليوم بموجب ترخيص متساهل) وAudio Seal.
قال بيير فرنانديز، عالم أبحاث الذكاء الاصطناعي في Meta، لـ TechCrunch في مقابلة: “لقد قمنا بتطوير Video Seal لتوفير حل أكثر فعالية للعلامات المائية للفيديو، خاصة لاكتشاف مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي وحماية الأصالة”.
Video Seal ليست التكنولوجيا الأولى من نوعها. يمكن لـ SynthID الخاص بـ DeepMind وضع علامة مائية على مقاطع الفيديو، ولدى Microsoft منهجيات خاصة بها لوضع العلامات المائية على الفيديو.
لكن فرنانديز يؤكد أن العديد من الأساليب الحالية غير كافية.
“على الرغم من وجود أدوات أخرى لوضع العلامات المائية، إلا أنها لا توفر القوة الكافية لضغط الفيديو، وهو أمر شائع جدًا عند مشاركة المحتوى عبر منصات التواصل الاجتماعي؛ لم تكن فعالة بما يكفي للعمل على نطاق واسع؛ لم تكن مفتوحة أو قابلة للتكرار؛ وقال فرنانديز: “أو تم استخلاصها من العلامات المائية للصور، وهو أمر غير مثالي لمقاطع الفيديو”.
بالإضافة إلى العلامة المائية، يمكن لـ Video Seal إضافة رسالة مخفية إلى مقاطع الفيديو التي يمكن كشفها لاحقًا لتحديد أصولها. تدعي Meta أن Video Seal يتمتع بالمرونة ضد التعديلات الشائعة مثل التمويه والاقتصاص، بالإضافة إلى خوارزميات الضغط الشائعة.
يعترف فرنانديز بأن Video Seal له حدود معينة، خاصة المفاضلة بين مدى إدراك العلامات المائية للأداة ومرونتها الشاملة للتلاعب. وأضاف أن الضغط الشديد والتعديلات المهمة قد يغير العلامات المائية أو يجعلها غير قابلة للاسترداد.
وبطبيعة الحال، فإن المشكلة الأكبر التي تواجه Video Seal هي أن المطورين والصناعة لن يكون لديهم سبب كبير لاعتماده، وخاصة أولئك الذين يستخدمون بالفعل حلولًا خاصة. وفي محاولة لمعالجة ذلك، تطلق Meta لوحة متصدرين عامة، Meta Omni Seal Bench، مخصصة لمقارنة أداء طرق العلامات المائية المختلفة، وتنظيم ورشة عمل حول العلامات المائية هذا العام في ICLR، وهو مؤتمر كبير للذكاء الاصطناعي.
وقال فرنانديز: “نأمل أن يقوم المزيد والمزيد من الباحثين والمطورين في مجال الذكاء الاصطناعي بدمج شكل من أشكال العلامات المائية في عملهم”. “نريد التعاون مع الصناعة والمجتمع الأكاديمي للتقدم بشكل أسرع في هذا المجال.”
Source link
اكتشاف المزيد من مؤسسة اشراق العالم لتقنية المعلومات-خدمات مواقع ومتاجر الإنترنت
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.