المحاذاة
Alignment
عملية جعل سلوك نظام الذكاء الاصطناعي يطابق نوايا البشر وقيمهم ومتطلبات السلامة، وهي من أبرز تحديات بناء النماذج الكبيرة.
The process of making an AI system's behavior match human intentions, values, and safety requirements — one of the key challenges in building large models.
تُرجم أيضاًالتوجيه القيمي والأخلاقي، المواءمة، توافق النموذج، ضبط التوافق، ضبط التوافقية السلوكية، ضبط السلوك، ضبط القيم، محاذاة الذكاء الاصطناعي، محاذاة النماذج، محاذاة النموذج، مواءمة الذكاء الاصطناعي، موائمة النموذج
أول ظهور في هذه المجموعة: رياضيات الترجمة الآلية الإحصائية: تقدير المعاملات (1993)
يظهر في هذه الأوراق
- أمان الذكاء الاصطناعي عبر المناظرة2018في السماء ✦
- ألباكا: نموذج قوي وقابل للتكرار يتّبع التعليمات2023في السماء ✦
- الترجمة الآلية العصبية عبر التعلم المشترك للمحاذاة والترجمة2014في السماء ✦
- تقييم النماذج اللغوية الكبيرة المُدرَّبة على الشيفرات البرمجية2021في السماء ✦
- التحسين المباشر للتفضيلات: نموذجك اللغوي هو سرًّا نموذج مكافأة2023في السماء ✦
- النماذج اللغوية المضبوطة بالتعليمات تتعلَّم بدون أمثلة2022في السماء ✦
- التقرير التقني لـ GPT-42023في السماء ✦
- رياضيات الترجمة الآلية الإحصائية: تقدير المعاملات1993في السماء ✦
- تدريب النماذج اللغوية على اتّباع التعليمات باستخدام التغذية الراجعة البشرية2022في السماء ✦
- LIMA: القليل يكفي للمواءمة2023في السماء ✦
- Llama 2: نماذج أساسية مفتوحة الأوزان ونماذج محادثة مُحاذَاة2023في السماء ✦
- كيف تتعلّم النماذج اللغوية الكبيرة الاستدلال2024في السماء ✦
- RLAIF: توسيع التعلّم المعزَّز بتغذية راجعة آلية بدلاً من البشر2023في السماء ✦
- التعميم من الضعيف إلى القوي: استخراج القدرات القوية بإشراف ضعيف2023في السماء ✦