تحيّز الأتمتة

ميل البشر إلى الثقة المفرطة بمخرجات الأنظمة المؤتمتة، حتى حين تكون تلك المخرجات خاطئة أو مُضلِّلة. يُشكّل خطراً خاصاً مع الأنظمة التي تقدّم إجابات بأسلوب يبدو موثوقاً.

The tendency of humans to over-trust the outputs of automated systems, even when those outputs are incorrect or misleading. Poses a particular risk with systems that present answers in an authoritative-looking format.