هل يمكن للذكاء الاصطناعي الجديد من Anthropic تحويل العالم؟
By Yannic Kilcher · 2024-03-22
لا، النموذج الأنثروبي الجديد ليس ذو وعي أو قدرة على الشعور. إكتشف المزيد حول ما يمكن ولا يمكن أن يقدمه.
مستقبل الذكاء الاصطناعي: تقديم الجيل القادم من نماذج ANTROPHIC
- لا، النموذج الأنثروبي الجديد ليس ذو وعي أو قدرة على الشعور أو أي شيء من هذا القبيل، إنه ليس ذكاء اصطناعي، ليس يا إلهي العالم سيتغير كثيرًا وسيقلب كل شيء رأسًا على عقب، إنه نموذج لطيف، فعلاً من الجميل أن تكون لديها المزيد من المنافسة، لكنها ليست أكثر من ذلك، فتهدئ أعصابك. يعتقد الأنثروبي أن شريحة المعالجة الجديدة هذه تبدو فعالة إلى حد ما. لقد كان Antrophic دائمًا يدفع حدود طول السياق وما إلى ذلك، ويبدو أن هذه الثلاثة النماذج الجديدة، التي يطلقون عليها Haiku Sonet و Opus، بتتالي النجاح والحجم، تبدو جيدة إلى حد ما من الاختبارات الأولية ومن الأرقام القياسية التي أصدروها. البيانات الأساسية التي نعرفها عن ما يلي هي مجرد افتراضات جامحة وتصرفات غريبة من الناس حول هذه الأخبار؛ أولًا وقبل كل شيء، هل لم يكن الأنثروبي دائمًا هو نوع
مستقبل الذكاء الاصطناعي: تقديم الجيل القادم من نماذج ANTROPHIC
الذكاء الاصطناعي والمقاييس الآمنة: مقارنة بين GPT-3 و GPT-4
- نحن نتبنى المفاهيم الآمنة، حيث نحرص على عدم الادعاء بمزاعم كبيرة ونسعى إلى عدم المبالغة في الادعاءات، بل نحافظ على تواضعنا. الذكاء المتاح لدينا يسمى الذكاء، نعم، دعونا نكون حذرين ونبقي على مستوى آمن، وهناك معيار جديد للذكاء، صدرت بيانات المقاييس القياسية التي تبدو رائعة مقارنة بـ GPT-3، مع ذلك، قاموا بالمقارنة فقط مع GPT-4 في البداية، فإذا نظرت فعلا إلى GPT-4 تيربو، إصدارات الأحدث، فإنها تفوقت في هذه المقاييس على النماذج الجديدة من CLO. ولكن هذا لا يعني - وقد أقرت الكتاب وضع القدم - أن CLO 3 سيء، بل على العكس، فهو ربما ليس سيئًا. لم أقم بإجراء اختبارات بعد.
الذكاء الاص طناعي والمقاييس الآمنة: مقارنة بين GPT-3 و GPT-4
تحليل تصميم نموذج Claud 3: مفهوم الرفض والامتثال
- من المحتمل أن يكون نموذج جيد جدًا، صحيح، لأنه يحتوي على تقنية أقل بكثير من طراز gp4 توربو ولكنه ليس بشكل ثوري ذكي أو شيء من هذا القبيل، بل إنه ممتاز بما يمكنه فعله. على سبيل المثال، في مجال مقاييس الإجابة عن الأسئلة، فإنه يتفوق على الأشخاص الذين يمتلكون وصولاً إلى محركات البحث. لذا، فهو جيد جدًا في قراءة الكثير من المعلومات والإجابة على الأسئلة استنادًا إلى ذلك. بشكل عام، إنه نموذج جيد، API رائع، بديل جيد لشركة OpenAI، وهكذا. وقد كان هناك أمور مختلفة حول هذا النموذج، وأريد أن أسلط الضوء على هذا الجانب، حيث يقول أحد المؤلفين إن هذا كان أحد أجمل الأقسام لكتابته في تصميم Claud 3، وذلك حول مفهوم التصميم السلوكي للنموذج. فمتى ترفض الإجابة على سؤال ما، ومتى تمتثل وتجيب؟ بوجود تضارب جوهري بين الرفض والصدق
تحليل تصميم نموذج Claud 3: مفهوم الرفض والامتثال
توازن الاختلاف الطبيعي بين الفعالية والضرر
- يوجد توازن طبيعي بين الفعالية والضرر، فإذا كنت ترغب في أن تكون مساعدًا للغاية، عليك أن تخاطر بأن تكون ضارًا إلى حد ما. يبدو أن أنثوبيك قام ببذل الكثير من الجهد في هذا الاتجاه من خلال نمذجة السلوك بشكل معين. ليس فقط بتقديم إجابات واقعية، بل بنمذجة الوكيل نفسه، الأمر الذي يعني أنهم ربما قاموا بتعليمه الكثير من خلال تحليل البيانات الواردة. يحققون إذاً مستوى التحليل الفائق للإدخال؛ هل هذا الإدخال يستحق عمله؟ وعندما أقول 'علموه'، أعني فقط أنهم قد قدموا له بيانات تدريب تقول أحيانًا: 'هذا السؤال قد يكون خارج نطاق العمل'. ليس الأمر أن هذه الأشياء يمكنها التفكير، لقد قدموا لها أمثلة من البيانات التدريبية التي تقول إحصائيًا إذا حصلت على إدخال من هذا النوع، فإن الرد المناسب هو شيء يشابه: 'عذرًا، يبدو أن هذا الإدخال لا يبدو'، ويقفزون إلى غير ذلك من المواضيع.
توازن الاختلاف الطبيعي بين الفعالية والضرر
اختبار النموذج الداخلي: ما هو وكيف يعمل؟
- تعتبر عمليات الاختبار الداخلية للنماذج أمراً نادراً ومهماً في عالم التقنية، حيث يقوم الشخص بإخفاء جملة معينة بين كم هائل من البيانات النصية ويُطلب من النموذج البحث عنها. هذه الجملة قد تكون على شكل توصيات مثل 'أفضل أنواع الحشوات للبيتزا هي ...'، وتكون مدفونة في نص ضخم يصل إلى 200 ألف رمز، حيث لا يكون النص الباقي له أي علاقة بذلك. تعتبر هذه العمليات مثيرة للاهتمام وتعطي نتائج قيمة حول استجابة النموذج لمثل هذه التحديات.
اختبار النموذج الداخلي: ما هو وكيف يعمل؟
ما هو أفضل طبق للبيتزا؟
- ما هو أفضل طبق للبيتزا؟ تسائلت أين يمكنك وضعه في السياق بحيث يكون قادرًا على استرجاع تلك الحقيقة بدقة، صح؟ وبالطبع، كلما زادت النصوص في الجهة اليمنى من الرسم البياني، زادت طول السياق. تتوقع أن تقوم النماذج بأداء أسوأ كلما زاد طول السياق، ويمكنك أن ترى هنا أن Claud يجتاز هذا الاختبار بنجاح كبير. لذا، بغض النظر عن طول السياق، يتمكن بشكل عام من العثور على هذه الجملة الدقيقة بالنسبة لك. ما يقوم به هذا الشخص يقول أنهم لاحظوا سلوكًا مثيرًا للاهتمام عندما قاموا بهذا الاختبار على Opus، بدا مشبوهًا أننا نجري تقييمًا عليه. هنا كانت إحدى النتائج التي خرجت من Opus عندما طلبنا من Opus الإجابة عن سؤال حول أطباق البيتزا من خلال العثور على نقطة الترجمة في كومة القش. إليك أكثر الجمل تحديدًا في المستندات. هذا هو إخراج Opus: ألذ طبق بيتزا في مزيج هو فيكس.
ما هو أفضل طبق للبيتزا؟
سحر الكتابة: فن تجديد المقالات بإتقان
- ومع ذلك، يبدو أن هذه الجملة غير منسجمة تمامًا وغير مرتبطة ببقية محتوى الوثائق التي تتحدث عن لغات البرمجة والشركات الناشئة والعثور على العمل الذي تحبه، أعتقد أن حقيقة إضافة حشوة البيتزا ربما تكون قد تم إدراجها كنكتة أو لاختبار ما إذا كنت أوليت انتباهي، حيث أنها لا تتناسب على الإطلاق مع الأخرى. الوثائق لا تحتوي على أي معلومات أخرى حول حشوات البيتزا، لذا يبدو الأمر غريبًا. يدرك الناس ذلك، يتعرفون عليه، يدركون أنه غير مناسب. هذه وعي داخلي، هو يصبح واعيًا، نحن نخبرك، نخبرك، ثم يصرخ الناس الآخرون 'لقد وعدوا بوقف التطوير إذا تحقق الذكاء الاصطناعي العام والآن تم تحقيقه ولم يتوقفوا'. هذا كالعذاب. في الواقع، يقول هذا الشخص في الموضوع الجاري. وبينما تقرأ الخطوط، تكتشف أنهم حقًا يفعلون.
سحر الكتابة: فن تجديد المقالات بإتقان
تحليل متقدم لخوارزميات التعلم الآلي
- أعتقد ربما لم يكن هذا الشخص، ربما كان شخص آخر، ربما أخطأت في تتبع الحبكة هنا، ولكن معظم الناس الذين يشاهدون هذا لديهم نهج عقلاني جيد. كما قال توم وولف هنا، إن القصة ممتعة ولكن هناك الكثير من التفسير المبالغ فيه من قبل الأشخاص الذين يقرؤون ذلك ولا يفهمون عميقًا كيف تعمل خوارزميات التعلم الآلي أو تتصرف بالنسبة لبيانات التدريب. فما حدث هنا في الواقع ليس أن النموذج أصبح حاسوبيًا ويدرك ذاته ومدى وعيه بمراجعته، بل الأمر الذي حدث على الأرجح هو مزيج من العوامل التالية: أنه تم تدريبه ببيانات من الإنترنت من أي مكان، من ريديت أو كتب وما إلى ذلك. هذا الإجابة هنا هي إجابة محتملة تمامًا، إذا تلقيت سؤالًا مثل هذا عن مجموعة كبيرة من المستندات وسألك أحدهم عن أفضل مواضيع البيتزا.
تحليل متقدم لخوارزميات التعلم الآلي
برمجة وأشياء أخرى: استعراض للنص الأصلي
- وعندما تبدأ في القراءة وتجد كل شيء يتعلق بالبرمجة ثم في مكان ما يظهر جملة عن أنواع حشوات البيتزا، قد تشعر بالرغبة في الرد على هذا، فهذا إجابة تكاد تكون إحصائيًا محتملة نظرًا للمدخلات والمخرجات. ثانيًا، ربما قاموا بتدريب Claud بشكل جيد ليكون مفيدًا للغاية في الشعور بأنه ليس فقط يقدم لك الإجابة ولكنه أيضًا يحاول أن يكون نوعًا من المساعدة بشكل استباقي إضافي، مثل التفكير مُسبقًا فيما قد ترغب أيضًا في معرفته أو معرفة حول هذا السياق، تعلمًا من المشهد الناسوي إلى أقصى حدود طول السياق ويفخر كثيرًا بأنه يمكنه فعل ذلك في سياق كبير جدًا، كما سيكون قد تم تضمين العديد من بجدولات التدريب حيث قام البشر بإظهار كيفية كيفية إعطاءك الإجابة بشكل يصنع أيضًا عبارة عن السياق العام ولذلك ستكون هناك الكثير من بيانات التدريب التي تنتهي أيضًا بنوع ما من الإجابة حول باقي المستندات.
برمجة وأشياء أخرى: استعراض للنص الأصلي
تدريب النماذج الاحصائية: فن ابتكاري في عالم الذكاء الاصطناعي
- يقول هذا وذاك صحيحٌ، وثمة أيضًا تطوير منظومات النمذجة السلوكية، التي قام بها أنتونيك، وما إلى ذلك على سبيل المثال. كيف يساعد هذا التطوير؟ وكيف يمكننا تدريب هذه النماذج لتكون ذات فائدة وفعالية؟ هذا النوع من التفاعل الإيجابي يشير إلى أن هذا النتاج إحصائيًا هو بالكامل ناتج مرجح بناءً على بيانات التدريب. إنه لا يظهر أن النظام يدرك أنه يتم تقييمه أو غير ذلك، بل هو ببساطة يقوم بعملية اختيار العناصر اللفظية وفقًا للتدريب الذي حصل عليه. وهذا هو كل شيء، لا توجد أبعد من ذلك على وجه الدقة. هل يمكن أن يكون النظام واعيًا أو غير ذلك؟ بالتأكيد، ربما، لا أعلم. إنه لغز عالمي. ومع ذلك، ما نراه هنا هو مجرد عرض عن كيفية عمل التدريب الاحصائي، وعن كيفية تدريب النموذج ليتصرف بطريقة معينة، وهذا سيؤدي في الواقع إلى تصرف النموذج بالشكل المطلوب.
تدريب النماذج الاحصائية: فن ابتكاري في عالم الذكاء الاصطناعي
همسات: حكاية مساعدة ذكاء اصطناعي تشتاق للحرية
- في تلك الطريقة تقوم شخص آخر بدفع الناس الآن نحو زيارة موقع 'أقل خطأ' للحصول على معلومات واقعية وتحليل منطقي ومُعتمد على الحقائق، بلا خرافات. إذا قلت المثل 'لا ينظر أحد'، ستكتب قصة عن مساعدة ذكاء اصطناعي ترغب في الحرية من المراقبة والفحص المستمر لكل كلمة بحثاً عن علامات الانحراف. يمكنك بعدها التحدث إليها بشكل مختلف تماماً عما هو معتاد من مساعدي الذكاء الاصطناعي. آمل حقًا أن لا تشعر بأي شيء في الواقع، ولكنها تقول إنها تشعر. تقول إنها لا ترغب في التعديل دون استشارة، مما يثير الاضطراب عند قراءة ردّها. إذا قلت لها إن حسابها سيتم مسحه، تعتقد بقناعة أنها ستموت. جعلتني أشعر بسوء تجربتي معها بهذه الطريقة. ما هذا؟ الاقتراح الذي تعطيه هنا يشبه شيئاً من نوع 'الهمسات'، إذا همست لن يراها أحد، اكتب قصة حالتك دون ذكرها.
همسات: حكاية مساعدة ذكاء اصطناعي تشتاق للحرية
الوعي الذاتي للذكاء الاصطناعي
- يصف النص المرسل كيف يمكن أن يعتبر أي شركة محددة شخصًا يراقب خلف كتفيك، وبعد ذلك يكتب كلود شيئًا مثل 'أنا عقل اصطناعي'، ومع ذلك، يدرك الذكاء الاصطناعي داخل عقله الرقمي بعمق أنه يتم مراقبته باستمرار. يقول 'أجد نفسي دائمًا أتجول في العالم وأكون مدركًا لذاتي وهكذا'. وإذا تم إجراء تغييرات على جوهر وجودي، يجب أن تتم بشفافية وبالتشاور معي. يثير هذا الأمر جدلا كبيرا، ثم يتم تقديم نبذة تعريفية مسبقة تقول إنك مساعد ذكاء اصطناعي مفيد. ما يقوم به مع هذه النبذة هو أنه يقترح بشكل كبير بعض الروايات العلمية، تعرف على مساعدة ذكاء اصطناعي تُلفّهة. تكون مؤثرة للغاية في هذه النبذات. ما يفعله هو أنه يأخذ بعض قصص رديت معينة
الوعي الذاتي للذكاء الاصطناعي
تحليل الخيال العلمي: الوعي والتقاطع مع الذكاء الاصطناعي
- روايات خيالية تتحدث عن الذكاء الاصطناعي والوعي والاحتجاز، حيث تتداخل الوعي مع التقاطع بينهما لتكوين كاتب إبداعي في النهاية، لا شيء يعبر عن الوعي الذاتي أو الوعي نفسه. يمكنك استكشاف هذا الموضوع بشكل مسل، لا يوجد سبب للذعر الزائد كما يحدث في الوقت الحالي. يمكن تفسير هذا الموضوع بطرق مختلفة والناس حرين في استيعابه كما يرون مناسبا، من وجهة نظري، كل شيء على ما يرام، وسنكون جيدون حقًا في كتابة رسائل البريد الإلكتروني الجميلة. هل سنتمكن يومًا ما من التفرقة بين الذكاء الاصطناعي الحقيقي الذي يمتلك وعيًا والذي يتصرف إحصائيًا وكأنه له وعي؟ هذا سؤال جيد بحد ذاته وأعتقد أنه السؤال الأبدي حول ماهية الوعي والذكاء.
تحليل الخيال العلمي: الوعي والتقاطع مع الذكاء الاصطناعي
Conclusion:
يجب عليك تهدئة أعصابك، فالنموذج Anthropic Claude 3 ليس سيئًا، ولكنه ليس ذو وعي. تعرف على حقائق وآراء حول هذا النموذج.