هذا الشهر ، كشفت ChatGpt عن مولد صور جديد كجزء من طراز 4O الخاص به والذي يعد أفضل بكثير في إنشاء نص داخل الصور.
يستخدمه الأشخاص بالفعل لإنشاء إيصالات مطعم مزيفة ، مما قد يضيفون أداة أخرى إلى مجموعة الأدوات التي تمتد بالفعل من AI Deepfakes المستخدمة من قبل المحتالين.
تم نشر ملصق وسائل التواصل الاجتماعي الغزير الإنتاج و VC Deedy Das على X صورة لاستلام مزيف لسيارة San Francisco Steakhouse التي يقول إنها تم إنشاؤها مع 4O.
تمكن آخرون من تكرار نتائج مماثلة ، بما في ذلك نتائج مع الطعام أو الشراب لجعلها تبدو أكثر أصالة:
كان المثال الأكثر واقعية مثال TechCrunch الموجود في الواقع من فرنسا ، حيث نشر مستخدم LinkedIn إيصال AI المتجول لسلسلة مطاعم محلية:
تم اختبار TechCrunch 4O وكان قادرًا أيضًا على إنشاء إيصال مزيف لـ Applebee’s في سان فرانسيسكو:
لكن محاولتنا كانت لديها هدايا ميتة كانت مزيفة. لأحد ، يستخدم المجموع فاصلة بدلاً من فترة. لآخر ، لا تضيف الرياضيات. لا تزال LLMs تكافح من أجل القيام بالرياضيات الأساسية ، لذلك هذا ليس مفاجئًا بشكل خاص.
ولكن لن يكون من الصعب على محتال الاحتيال إصلاح بعض الأرقام بسرعة باستخدام برامج تحرير الصور ، أو ، ربما ، مطالبات أكثر دقة.
من الواضح أن جعل من السهل حقًا توليد إيصالات مزيفة يمثل فرصًا كبيرة للاحتيال. لن يكون من الصعب تخيل هذا النوع من التكنولوجيا التي يستخدمها الممثلون السيئون للحصول على “تعويض” للنفقات المزيفة تمامًا.
أخبرت المتحدثة باسم Openai Taya Christianson TechCrunch أن جميع صورها تتضمن بيانات تعريف تشير إلى أنها صنعتها ChatGpt. وأضاف كريستيانسون أن “Openai” يتخذ إجراءً عندما ينتهك المستخدمون سياسات الاستخدام الخاصة به ، وأنه “يتعلم دائمًا” من الاستخدام الحقيقي والتعليقات.
سأل TechCrunch بعد ذلك عن سبب سمح ChatGPT للأشخاص بإنشاء إيصالات مزيفة في المقام الأول ، وما إذا كان هذا هو خط مع سياسات استخدام Openai (التي تحظر الاحتيال.)
أجاب كريستيانسون أن “هدف Openai هو إعطاء المستخدمين أكبر قدر ممكن من الحرية الإبداعية” ، وأنه يمكن استخدام إيصالات الذكاء الاصطناعى المزيفة في المواقف غير الحاد مثل “تعليم الناس حول معرفة القراءة والكتابة المالية” إلى جانب إنشاء إعلانات الفن والمنتج الأصلية.
اكتشاف المزيد من مؤسسة اشراق العالم لتقنية المعلومات-خدمات مواقع ومتاجر الإنترنت
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.