مساحة عمل عالمية في نماذج اللغة

أثناء قراءتك لهذه الجملة، تعمل الدوائر الموجودة في دماغك على تعديل وضعيتك، والتحكم في تنفسك، وتحويل الخطوط والمنحنيات التي تظهر على الشاشة إلى كلمات يمكن التعرف عليها. معظم هذه المعالجة غير مرئية بالنسبة لك. لكن بعض ما يحدث في دماغك يمكنك الوصول إليه - الصورة

6 يوليو 2026 3 دقائق قراءة

أثناء قراءتك لهذه الجملة، تعمل الدوائر الموجودة في دماغك على تعديل وضعيتك، والتحكم في تنفسك، وتحويل الخطوط والمنحنيات التي تظهر على الشاشة إلى كلمات يمكن التعرف عليها. معظم هذه المعالجة غير مرئية بالنسبة لك. لكن بعض ما يحدث في عقلك يمكنك الوصول إليه، مثل الصورة التي تخطر في ذهنك، أو خطة مدروسة تضعها حول المكان الذي ستذهب إليه للتسوق. يشير علماء الأعصاب والفلاسفة أحيانًا إلى النوع الأخير من نشاط الدماغ على أنه "يمكن الوصول إليه بوعي"، لتمييزه عن جميع العمليات الأخرى التي تتم دون وعي. ولهذا النشاط خصائص خاصة: يمكننا وصفه، والتحكم فيه، واستخدامه للتفكير المتعمد، على عكس كل المعالجة التلقائية التي تجري دون وعينا.

وفي بحث جديد، نقدم دليلاً على ظهور تمييز مماثل في نماذج اللغة الحديثة مثل كلود. نجد أن كلود قد طور مجموعة صغيرة من الأنماط العصبية الداخلية التي تلعب دورًا خاصًا، مقارنة بجميع عمليات المعالجة الداخلية الأخرى.

نحن نطلق على مجموعة هذه الأنماط مساحة J، والتي سميت على اسم التقنية التي استخدمناها للعثور عليها، والتي تتضمن مفهومًا رياضيًا يسمى اليعقوبي. يرتبط كل نمط J-space بكلمة معينة. ولكن عندما يضيء أحد هذه الأنماط، فهذا لا يعني أن النموذج يقول تلك الكلمة، بل يعني فقط أن الكلمة في ذهنه. إذا كنت قد سمعت عن نماذج اللغة التي لديها "مسودة" أو "سلسلة أفكار" - نص يكتبونه لأنفسهم أثناء التفكير - فإن مساحة J شيء مختلف. إنه يعمل بصمت، في التنشيطات العصبية الداخلية للنموذج، مما يسمح للنموذج بالتفكير في مفهوم ما دون تدوينه. ومن الجدير بالذكر أن J-space لم نصممه أو نبرمجه بواسطتنا، بل ظهر من تلقاء نفسه أثناء عملية تدريب كلود.

نجد أن مساحة J تتمتع بعدد من الخصائص الفريدة، مقارنة ببقية معالجة كلود:

كانت تجاربنا مستوحاة من نظرية بارزة في علم الأعصاب تم تطويرها لشرح كيفية عمل الوصول الواعي: نظرية مساحة العمل العالمية. يصور هذا التفسير الدماغ كمجموعة من الأنظمة المتخصصة التي تعمل بالتوازي، دون وعي، وبشكل كبير بمعزل عن بعضها البعض. تصبح إحدى المعلومات متاحة بشكل واعي عندما تتمكن من الدخول إلى قناة مشتركة صغيرة، تسمى "مساحة العمل"، والتي يتم بثها إلى أنظمة الدماغ الأخرى التي يمكنها رؤيتها والاستفادة منها. بناءً على النتائج التي توصلنا إليها، نعتقد أن مساحة J تلعب دورًا مشابهًا في "مساحة العمل" في كلود. على سبيل المثال، وجدنا دليلاً على أن مساحة J الخاصة بكلود لديها اتصالات قوية بشكل خاص مع بقية شبكتها العصبية، مما يسمح لها بالوفاء بهذا النوع من دور البث.

لا شيء من هذا يخبرنا ما إذا كان كلود واعيًا بالطريقة التي يكون بها الناس، أو ما إذا كان يشعر بأي شيء على الإطلاق؛ سنعود إلى هذا السؤال في نهاية المنشور. ولكن مهما كانت أهميتها الفلسفية، فإن مساحة J هي أداة مفيدة عمليًا بالنسبة لنا، لأنها تمنحنا طريقة لرؤية ما يفكر فيه كلود ولكن لا يقوله. على سبيل المثال، يمكننا استخدامه لملاحظة كلود سرًا أنه يتم اختباره، أو إنتاج بيانات ملفقة عمدًا، أو متابعة هدف خفي زرعناه أثناء التدريب. لقد قمنا أيضًا بتطوير تقنية للتأثير على ما يضيء في الفضاء J لكلود، وبالتالي التأثير على عملية صنع القرار فيه.

المصدر: Hacker News