تمتاز نماذج اللغة الكبيرة (LLMs) بقدرات هائلة في حل المهام المعقدة، بدءًا من التفكير الكمي إلى فهم اللغة الطبيعية. ومع ذلك، تعاني LLMs في بعض الأحيان من الهلوسة، مما يؤدي إلى إصدار تصريحات معقولة ولكن غير صحيحة. وهذا يعيق استخدام النماذج الكبيرة الحالية في الاكتشاف العلمي. هنا نقدم FunSearch (اختصارًا للبحث في مجال الوظائف)، وهو إجراء تطوري يستند إلى ربط نموذج LLM مدرب مسبقًا مع مقيم منهجي. نقدم فعالية هذا النهج في تجاوز أفضل النتائج المعروفة في مشاكل مهمة، مما يدفع بحدود النهج القائم على LLMs الحالي. من خلال تطبيق FunSearch على مشكلة مركزية في الجبر المجموعي المتطرف – مشكلة مجموعة القبعة – اكتشفنا بناءات جديدة لمجموعات القبعات الكبيرة تتجاوز المعروفة حتى الآن، سواء في الأبعاد المحدودة أو الأبعاد اللاحقة. يمثل هذا أول اكتشافات تمت لمشاكل مفتوحة معروفة باستخدام LLMs. نعرض على العمومية لـ FunSearch من خلال تطبيقه على مشكلة خوارزمية، وهي تعبئة صناديق الإنترنت، حيث نجد تقنيات جديدة تحسن الأسس المستخدمة على نطاق واسع. على عكس معظم النهج في البحث الكمبيوتري، يبحث FunSearch عن برامج تصف كيفية حل مشكلة، بدلاً من ما هو الحل. بالإضافة إلى كونها استراتيجية فعالة وقابلة للتوسع، فإن البرامج المكتشفة تكون أكثر قابلية للتفسير من الحلول الخام، مما يمكن من تكرارات التغذية بين الخبراء في المجال و FunSearch، ونشر مثل هذه البرامج في التطبيقات العملية في العالم الحقيقي.
مقدمة
تعتبر نماذج اللغة الكبيرة (LLMs) قوية جداً في حل المهام المعقدة، بما في ذلك التفكير الكمي وفهم اللغة الطبيعية. ومع ذلك، فإن LLMs قد يعانون أحيانًا من الهلوسة، مما يؤدي إلى إصدار تصريحات معقولة ولكن غير صحيحة. وهذا يعيق استخدام النماذج الكبيرة الحالية في الاكتشاف العلمي. في هذه الدراسة، نقدم FunSearch، وهو إجراء تطوري يستخدم تقنية الزوج بين LLM مدرب مسبقًا ومقيم منهجي. نقوم بتوضيح فعالية هذا النهج في تجاوز أفضل النتائج المعروفة في مشاكل مهمة، مما يدفع بحدود النهج القائم على LLMs الحالي. نقوم أيضًا بتطبيق FunSearch على مشكلة مركزية في الجبر المجموعي المتطرف – مشكلة مجموعة القبعة – حيث نكتشف بناءات جديدة لمجموعات القبعات الكبيرة تتجاوز المعروفة حتى الآن، سواء في الأبعاد المحدودة أو الأبعاد اللاحقة. يعد هذا الاكتشاف الأول الذي تم إجراؤه لمشكلات مفتوحة معروفة باستخدام LLMs. نقوم أيضًا بعرض العمومية لـ FunSearch من خلال تطبيقه على مشكلة خوارزمية، وهي تعبئة صناديق الإنترنت، حيث نجد تقنيات جديدة تحسن الأسس المستخدمة على نطاق واسع. وبدلاً من البحث عن الحلول، يبحث FunSearch عن البرامج التي تصف كيفية حل المشكلة. وبالإضافة إلى كونها استراتيجية فعالة وقابلة للتوسع، فإن البرامج المكتشفة تكون أكثر قابلية للتفسير من الحلول الخام، مما يمكن من تكرارات التغذية بين الخبراء في المجال و FunSearch، ونشر مثل هذه البرامج في التطبيقات العملية في العالم الحقيقي.
الاستنتاجات
توصلت هذه الدراسة إلى أن استخدام نماذج اللغة الكبيرة في البحث عن البرامج يمكن أن يؤدي إلى اكتشافات رياضية جديدة. تم تطبيق FunSearch على مشكلة مركزية في الجبر المجموعي المتطرف وتم اكتشاف بناءات جديدة لمجموعات القبعات الكبيرة. كما تم تطبيق FunSearch على مشكلة خوارزمية وتم اكتشاف تقنيات جديدة تحسن الأسس المستخدمة على نطاق واسع. يمكن استخدام هذه الاكتشافات في تطبيقات العالم الحقيقي وتمكين التفاعل بين الخبراء في المجال و FunSearch. ومن المتوقع أن تساهم هذه الدراسة في تطوير المجال وتعزيز الاكتشاف العلمي.
Source: https://www.nature.com/articles/s41586-023-06924-6
اترك تعليقاً