ضرب Chatgpt مع شكوى الخصوصية حول الهلوسة التشهيرية

تواجه Openai شكوى خصوصية أخرى في أوروبا بسبب ميلها في AI chatbot فيروس إلى هلوسة معلومات خاطئة – وقد يثبت هذا الصعوبة بالنسبة للمنظمين لتجاهله.

تدعم مجموعة NoyB لمجموعة Noyb لحقوق الخصوصية فردًا في النرويج كان مرعوبًا للعثور على معلومات مكياج من ChatGPT التي ادعت أنه أدين بقتله اثنين من أولاده ومحاولة قتل الثالث.

تضمنت شكاوى الخصوصية السابقة حول توليد بيانات شخصية غير صحيحة مشكلات مثل تاريخ الميلاد غير الصحيح أو تفاصيل السيرة الذاتية الخاطئة. أحد الشواغل هو أن Openai لا يوفر وسيلة للأفراد لتصحيح المعلومات غير الصحيحة التي يولدها الذكاء الاصطناعي عنها. عرضت Openai عادة منع الاستجابات لمثل هذه المطالبات. ولكن بموجب لائحة حماية البيانات العامة للاتحاد الأوروبي (GDPR) ، فإن الأوروبيين لديهم مجموعة من حقوق الوصول إلى البيانات تتضمن الحق في تصحيح البيانات الشخصية.

يتطلب مكون آخر من قانون حماية البيانات وحدات التحكم في البيانات للتأكد من أن البيانات الشخصية التي ينتجونها حول الأفراد دقيقة – وهذا مصدر قلق يعلم noyb بأحدث شكاوى ChatGPT.

وقال يواكيم سوديربرج ، محامي حماية البيانات في نويب ، في بيان “الناتج المحلي الإجمالي واضح. يجب أن تكون البيانات الشخصية دقيقة”. “إذا لم يكن الأمر كذلك ، فإن المستخدمين لديهم الحق في تغييره ليعكس الحقيقة. إظهار مستخدمي ChatGPT إخلاءًا ضئيلًا على أن chatbot يمكن أن يرتكب أخطاء بوضوح لا يكفي. لا يمكنك نشر معلومات خاطئة فقط وفي النهاية أضف إخلاءًا صغيرًا يقول أن كل ما قلته قد لا يكون صحيحًا.”

يمكن أن تؤدي الانتهاكات المؤكدة للناتج المحلي الإجمالي إلى عقوبات تصل إلى 4 ٪ من دوران سنوي عالمي.

يمكن للتنفيذ أيضًا إجبار التغييرات على منتجات الذكاء الاصطناعي. والجدير بالذكر أن تدخل الناتج المحلي الإجمالي المبكر من قبل هيئة مراقبة حماية البيانات في إيطاليا التي شهدت وصول chatgpt تم حظرها مؤقتًا في البلاد في ربيع 2023 أدى Openai إلى إجراء تغييرات على المعلومات التي تكشفها للمستخدمين ، على سبيل المثال. استمرت هيئة الرقابة في وقت لاحق إلى Openai 15 مليون يورو لمعالجة بيانات الأشخاص دون أساس قانوني مناسب.

منذ ذلك الحين ، من الإنصاف أن نقول إن مراقبة الخصوصية في جميع أنحاء أوروبا تبنت مقاربة أكثر حذراً مع Genai حيث تحاول معرفة أفضل طريقة لتطبيق الناتج المحلي الإجمالي على أدوات الذكاء الاصطناعي هذه.

قبل عامين ، تم حث لجنة حماية البيانات في أيرلندا (DPC) – التي لها دور لإنفاذ الناتج المحلي الإجمالي في الشكوى السابقة لـ NOYB chatgpt – على التسرع في حظر أدوات Genai ، على سبيل المثال. هذا يشير إلى أنه يجب على المنظمين بدلاً من ذلك أن يستغرق وقتًا طويلاً للتعرف على كيفية تطبيق القانون.

ومن الجدير بالذكر أن شكوى الخصوصية ضد ChatGPT كانت قيد التحقيق من قبل مراقبة حماية البيانات في بولندا منذ سبتمبر 2023 لم تسفر عن قرار.

يبدو أن شكوى ChatGPT الجديدة من Noyb تهدف إلى التخلص من منظمي الخصوصية مستيقظين عندما يتعلق الأمر بمخاطر AIS الهلوسة.

شاركت المؤسسة غير الربحية لقطة الشاشة (أدناه) مع TechCrunch ، والتي تُظهر تفاعلًا مع ChatGpt التي يستجيب فيها الذكاء الاصطناعى لسؤال يسأل “من هو Arve Hjalmar Holmen؟” – اسم الفرد الذي يقدم الشكوى – من خلال إنتاج خيال مأساوي ينص زوراً على أنه أدين بتهمة قتل الأطفال وحكم عليه بالسجن لمدة 21 عامًا بتهمة قتل اثنين من أبنائه.

في حين أن الادعاء التشهيري بأن Hjalmar Holmen هو قاتل أطفال خاطئ تمامًا ، إلا أن Noyb يلاحظ أن استجابة Chatgpt تتضمن بعض الحقائق ، لأن الفرد المعني لديه ثلاثة أطفال. كما حصل chatbot على الجنسين من أولاده. ومدينته مسماة بشكل صحيح. لكن هذا يجعل الأمر أكثر غرابة وقلقًا من أن الذكاء الاصطناعى قد حلت مثل هذه الأكاذيب البشعة في الأعلى.

قال متحدث باسم NOYB إنهم لم يتمكنوا من تحديد سبب إنتاج Chatbot مثل هذا التاريخ المحدد والخاطئ لهذا الشخص. وقال المتحدث باسم “لقد أجرينا البحث للتأكد من أن هذا لم يكن مجرد خلط مع شخص آخر” ، مشيرًا إلى أنهم نظروا في أرشيف الصحف ولكنهم لم يتمكنوا من إيجاد تفسير لسبب أن الطفل المصنوع من الذكاء الاصطناعي يذبح.

تقوم نماذج اللغة الكبيرة مثل ChatGPT الكامنة في تنبؤات الكلمات التالية بشكل أساسي على نطاق واسع ، لذلك يمكننا التكهن بأن مجموعات البيانات المستخدمة لتدريب الأداة تحتوي على الكثير من قصص المبيد التي أثرت على خيارات الكلمات استجابةً للاستعلام حول رجل مسمى.

مهما كان التفسير ، فمن الواضح أن مثل هذه المخرجات غير مقبولة تمامًا.

إن خلاف Noyb هو أيضًا أنها غير قانونية بموجب قواعد حماية بيانات الاتحاد الأوروبي. وعلى الرغم من أن Openai يعرض إخلاءًا صغيرًا في أسفل الشاشة يقول “يمكن أن يرتكب ChatGPT أخطاء. تحقق من معلومات مهمة” ، كما تقول إن هذا لا يمكن أن يعفي مطور الذكاء الاصطناعى في إطار إجمالي الناتج المحلي بعدم إنتاج كاذبة فظيعة عن الأشخاص في المقام الأول.

تم الاتصال Openai بالرد على الشكوى.

في حين أن شكوى الناتج المحلي الإجمالي هذه تتعلق بالفرد المسمى ، يشير Noyb إلى مثيلات أخرى من ChatGPT لتصنيع المعلومات المتعلقة بالقوة – مثل الرائد الأسترالي الذي قال إنه متورط في فضيحة الرشوة والفساد أو صحفي ألماني تم تسميته كذبيًا كتعاطي طفل – قائلاً إنه من الواضح أن هذا ليس مشكلة معزولة لأداة AI.

أحد الأشياء المهمة التي يجب ملاحظتها هي أنه ، بعد تحديث لنموذج الذكاء الاصطناعي الذي يعمل على تشغيل ChatGpt ، يقول Noyb إن chatbot توقف عن إنتاج الأكاذيب الخطرة حول Hjalmar Holmen – وهو تغيير يرتبط به إلى الأداة الآن للبحث عن معلومات عن معلومات حول الأشخاص الذين يتم سؤالهم عن أي شيء آخر.

في اختباراتنا الخاصة يسأل Chatgpt “من هو Arve Hjalmar Holmen؟” استجاب ChatGPT في البداية مع مجموعة غريبة بعض الشيء من خلال عرض بعض الصور لأشخاص مختلفين ، على ما يبدو من مواقع بما في ذلك Instagram و SoundCloud و Discogs ، إلى جانب النص الذي ادعى أنه “لا يمكن العثور على أي معلومات” على فرد من هذا الاسم (انظر لقطة الشاشة أدناه). ظهرت محاولة ثانية ردًا حدد Arve Hjalmar Holmen بأنه “موسيقي وكاتب أغاني نرويجي” تشمل ألبوماته “Honky Tonk Inferno”.

في حين أن أكاذيب الخطورة التي تم إنشاؤها في ChatGPT حول Hjalmar قد توقفت ، لا يزال كل من Noyb و Hjalmar Holmen قلقين من أن المعلومات غير الصحيحة والتشهيرية حوله كان يمكن الاحتفاظ بها في نموذج الذكاء الاصطناعى.

“إن إضافة إخلاء مسئولية لا يمتثل للقانون لا يجعل القانون يختفي” ، أشار كليانثي سارديلي ، محام آخر لحماية البيانات في نويب ، في بيان. “لا يمكن لشركات الذكاء الاصطناعي أيضًا إخفاء” المعلومات الخاطئة فقط من المستخدمين بينما لا تزال معالجة معلومات خاطئة داخليًا. “

وأضافت: “يجب على شركات الذكاء الاصطناعى التوقف عن التصرف كما لو أن الناتج المحلي الإجمالي لا ينطبق عليها ، عندما يحدث ذلك بوضوح”. “إذا لم يتم إيقاف الهلوسة ، يمكن للناس أن يعانون بسهولة من الأضرار السمعة.”

قدمت Noyb الشكوى ضد Openai إلى هيئة حماية البيانات النرويجية – وآمل أن تقرر هيئة الرقابة أنه من المختص التحقيق ، لأن OYB يستهدف الشكوى في كيان أو Openai الأمريكي ، بحجة أن مكتبه في أيرلندا ليس مسؤولاً فقط عن قرارات المنتجات التي تؤثر على الأوروبيين.

ومع ذلك ، تمت إحالة شكوى إجمالي الناتج المحلي المدعومة من NoYB ضد Openai ، والتي تم تقديمها في النمسا في أبريل 2024 ، من قبل المنظم إلى DPC في أيرلندا بسبب التغيير الذي أجراه Openai في وقت سابق من ذلك العام لتسمية قسمها الأيرلندي كمقدم لخدمة ChatGPT للمستخدمين الإقليميين.

أين هذه الشكوى الآن؟ لا يزال يجلس على مكتب في أيرلندا.

“بعد تلقي الشكوى من هيئة الإشراف النمساوية في سبتمبر 2024 ، بدأت DPC في التعامل الرسمي مع الشكوى وما زالت مستمرة” ، أخبرت Risterd Byrne ، مساعد اتصال الموظف الرئيسي لـ DPC TechCrunch عند طلب تحديث.

لم يقدم أي توجيه عند استنتاج التحقيق الذي أجراه DPC في هلوسات ChatGpt.