مخاوف كبير موظفي العلوم في وجه المعانقة أصبحت منظمة العفو الدولية “بنعم من رجال الخوادم”

يتمتع مؤسسو شركة AI بسمعة طيبة في تقديم مطالبات جريئة حول إمكانات التكنولوجيا لإعادة تشكيل الحقول ، وخاصة العلوم. لكن توماس وولف ، المؤسس المشارك لكبار المسؤولين في العلوم ، لديه مؤسس مشارك للعلوم.

في مقال نُشر إلى X يوم الخميس ، قال وولف إنه يخشى أن يصبح منظمة العفو الدولية “بنعم من رجال الخوادم” غائبة عن اختراق في أبحاث الذكاء الاصطناعي. لقد أوضح أن نماذج تطوير الذكاء الاصطناعى الحالية لن تسفر عن منظمة العفو الدولية قادرة على حل المشكلات الإبداعية ، وهو نوع من حل المشكلات الذي يفوز بجوائز نوبل.

“الخطأ الرئيسي الذي يرتكبه الناس عادة ما يفكرون [people like] كتب وولف أن نيوتن أو آينشتاين كانا مجرد طلاب جيدون ، وأن العبقرية تأتي إلى الحياة عندما تقوم بإجراء خطي طالب أفضل 10 ٪ “. “لإنشاء آينشتاين في مركز بيانات ، لا نحتاج فقط إلى نظام يعرف كل الإجابات ، بل هو أمر يمكنه طرح أسئلة لم يفكر بها أي شخص آخر أو تجرأ على طرحها.”

تقف تأكيدات وولف على عكس تلك من الرئيس التنفيذي لشركة Openai Sam Altman ، الذي قال في مقال في وقت سابق من هذا العام أن “Superintelligent” يمكن أن “يمكن أن” تسريع اكتشاف علمي بشكل كبير “. وبالمثل ، توقع الرئيس التنفيذي للأنثروبور ، داريو أمودي ، أن يساعد الذكاء الاصطناعي في صياغة علاجات لمعظم أنواع السرطان.

مشكلة الذئب مع الذكاء الاصطناعي اليوم – وحيث يعتقد أن التكنولوجيا تتجه – هي أنها لا تولد أي معرفة جديدة من خلال توصيل الحقائق غير ذات الصلة سابقًا. وقال وولف إنه حتى مع وجود معظم الإنترنت تحت تصرفه ، فإن منظمة العفو الدولية كما نفهمها حاليًا تملأ الفجوات بين ما يعرفه البشر بالفعل.

أعرب بعض خبراء الذكاء الاصطناعى ، بما في ذلك مهندس Google السابق فرانسوا Chollet ، عن وجهات نظر مماثلة ، بحجة أنه على الرغم من أن الذكاء الاصطناعى قد يكون قادرًا على حفظ أنماط التفكير ، فمن غير المرجح أن يولد “التفكير الجديد” بناءً على مواقف جديدة.

يعتقد وولف أن مختبرات الذكاء الاصطناعى تبني ما هو أساسا “طلاب مطيعون للغاية” – وليس الثوار العلميون بأي معنى لهذه العبارة. وقال إن الذكاء الاصطناعي اليوم لا يحفز على السؤال واقتراح الأفكار التي من المحتمل أن تتعارض مع بيانات التدريب الخاصة بها ، مما يحد من الإجابة على الأسئلة المعروفة.

وقال وولف: “لإنشاء آينشتاين في مركز بيانات ، لا نحتاج فقط إلى نظام يعرف كل الإجابات ، بل هو الذي يمكنه طرح أسئلة لم يفكر بها أي شخص آخر أو تجرأ على طرحها”. “واحد يكتب” ماذا لو كان الجميع مخطئين في هذا؟ ” عندما تقترح جميع الكتب المدرسية والخبراء والمعرفة المشتركة خلاف ذلك. “

يعتقد وولف أن “أزمة التقييم” في الذكاء الاصطناعى هو السبب جزئياً في هذه الحالة المزعجة. ويشير إلى المعايير التي تستخدم عادة لقياس تحسينات نظام الذكاء الاصطناعي ، والتي تتكون معظمها من أسئلة لها إجابات واضحة وواضحة و “قريبة”.

كحل ، يقترح وولف أن صناعة الذكاء الاصطناعى “تنتقل إلى مقياس من المعرفة والتفكير” القادر على توضيح ما إذا كان يمكن لـ AI أن تتبع “أساليب عكسية جريئة” ، تقدم مقترحات عامة بناءً على “تلميحات صغيرة” ، وطرح “أسئلة غير أوضاع” التي تؤدي إلى “مسارات بحثية جديدة”.

يعترف وولف بأن الحيلة ستتعرف على شكل هذا التدبير. لكنه يعتقد أنه يمكن أن يستحق كل هذا الجهد.

“[T]هو الجانب الأكثر أهمية في العلوم [is] وقال وولف: “المهارة لطرح الأسئلة الصحيحة ولتحدي ما تعلمه المرء”. “لسنا بحاجة إلى A+ [AI] الطالب الذي يمكنه الإجابة على كل سؤال بمعرفة عامة. نحتاج إلى طالب B الذي يرى ويتساءل عما فاتته أي شخص آخر. “