הטיית האוטומציה
שאננות אוטומציה

הרעיון של הטיית האוטומציה נתפס כבעל חפיפה למושג "שאננות הנגרמת על ידי אוטומציה", אשר ידוע גם בשם "שאננות אוטומציה". כמו הטיית האוטומציה, שאננות אוטומציה היא תוצאה של שימוש לרעה באוטומציה וכרוכה בבעיות של תשומת לב. בעוד שהטיית האוטומציה כרוכה בנטייה לסמוך על מערכות תומכות החלטה, שאננות אוטומציה כרוכה בחוסר תשומת לב ובהיעדר ניטור של פלט של אוטומציה, בדרך כלל משום שפלט זה נתפס כאמין. על פי חוקרים בתחום, למרות שהמושגים של שאננות והטיית האוטומציה נדונים בנפרד, הם חולקים מספר מאפיינים משותפים, דבר אשר מרמז על כך שהם משקפים היבטים שונים של אותו סוג של שימוש לרעה באוטומציה. הוצע כי המושגים שאננות אוטומציה והטיית האוטומציה ישולבו למושג אינטגרטיבי אחד.
שאננות האוטומציה הוגדרה כזיהוי גרוע של תקלות במערכת עם אוטומציה בהשוואה לשליטה ידנית. מערכת הדיווח על בטיחות תעופה (ASRS) של נאס"א מגדירה שאננות כ"שביעות רצון עצמית שעלולה לגרום לחוסר-ערנות בהתבסס על הנחה לא מוצדקת של מצב מערכת משביע רצון". מספר מחקרים הצביעו על כך שהתופעה מתרחשת לרוב כאשר מפעילים עוסקים במשימות ידניות ואוטומטיות בו-זמנית. תפיסת המפעילים לגבי מהימנות המערכת האוטומטית יכולה להשפיע על האופן שבו המפעיל מתקשר עם המערכת. נמצא כי אמינות מערכת גבוהה יכולה להוביל את המשתמשים להתנתק ממערכות הניטור ובכך להגביר את שגיאות הניטור, להפחית את המודעות המצבית ולהפריע ליכולת של המפעיל לקבל מחדש את השליטה במערכת במקרה שזו חרגה ממגבלות הביצועים. ניתן להפחית את שאננות זו כאשר אמינות האוטומציה משתנה לאורך זמן במקום להישאר קבועה, אך היא אינה מצטמצמת על ידי ניסיון ותרגול. משתתפים מומחים ובלתי מומחים עשויים להפגין את הטיית האוטומציה כמו גם שאננות באוטומציה. לא ניתן להתגבר בקלות על אף אחת מהבעיות הללו על ידי אימון.
המונח "שאננות אוטומציה" שימש לראשונה בהקשר לתאונות תעופה או תקריות שבהן טייסים, פקחי טיסה או עובדים אחרים לא בדקו מערכות אוטומטיות באופן מספק, בעודם מניחים שהמצב תקין, כאשר במציאות עמדה להתרחש תאונה. שאננות של מפעיל, בין אם היא קשורה לאוטומציה או לא, הוכרה זה מכבר כגורם מוביל בתאונות אוויריות.
תפיסות של מהימנות, באופן כללי, יכולות לגרום לסוג של אירוניה באוטומציה, שבה יותר אוטומציה יכולה להפחית את עומס העבודה הקוגניטיבי אך להגדיל את ההזדמנות לניטור שגיאות. לעומת זאת, אוטומציה נמוכה יכולה להגביר את עומס העבודה אך להקטין את ההזדמנות לטעויות ניטור. ניתן לקחת כדוגמה מקרה שבו טייס מטיס במזג אוויר סוער, שבו רעמים מתמשכים מפריעים ליכולתו להבין מידע המועבר אליו על ידי פקח הטיסה. למרות המאמץ המושקע להבנת המידע המועבר על ידי הפקח, ביצועי הטייס תלויים במקורות המידע הדרושים להשלמת המשימה. לפיכך על הטייס להסתמך על חיוויים ממכשירים אוטומטיים בתא הטייס כדי לקבל מידע על נתיב הטיסה. אם הטייס תופס את החיוויים האוטומטיים כאמינים ביותר, מידת המאמץ שהוא משקיע להבנת הפקח עלולה לרדת. יתרה מכך, אם חיוויים אלה ייתפסו כאמינים ביותר, הוא עלול להתעלם מהם כדי להקדיש את מלוא משאבי הקשב שלו לפענוח המידע המשודר על ידי הפקח. בכך, הטייס יהפוך למְנַטֵּר שאנן ובכך יסתכן בהחמצת מידע קריטי שיועבר על ידי חיוויי המכשירים האוטומטיים. עם זאת, אם הטייס יראה שחיוויי המכשירים האוטומטיים אינם אמינים, הוא יאלץ לפרש מידע מהפקח ומהחיוויים האוטומטיים בו-זמנית. אילוץ זה יוצר תרחישים שבהם המפעיל עשוי להשקיע משאבים קוגניטיביים מיותרים כאשר האוטומציה למעשה אמינה, אך גם מגדיל את הסיכויים לזהות שגיאות פוטנציאליות במכשירים אלה במקרה שהן מתרחשות. כדי לכייל את תפיסת האמינות של הטייס, האוטומציה צריכה להיות מתוכננת כך שתשמור על עומס העבודה ברמות המתאימות תוך הבטחה שהמפעיל יישאר מעורב במשימות ניטור. למפעיל יש סיכוי נמוך יותר להתנתק מהניטור כאשר מהימנות המערכת יכולה להשתנות בהשוואה למערכת בעלת מהימנות עקבית.
במידה מסוימת, שאננות המשתמש מקזזת את היתרונות של אוטומציה, כך שכאשר רמת האמינות של מערכת אוטומטית יורדת מתחת לרמה מסוימת, אז האוטומציה כבר אינה תורמת לשיפור הביצועים. נמצא ששאננות האוטומציה מתרחשת כאשר רמת האמינות של האוטומציה מגיעה לכ-70%. מאידך, מחקרים אחרים מצאו שאוטומציה עם רמת מהימנות מתחת ל-70% יכולה להועיל לאנשים עם גישה למקורות המידע הגולמיים, שאותם ניתן לשלב עם תפוקת האוטומציה כדי לשפר את הביצועים.
מוות באמצעות GPS, שבו מותם של אנשים נגרם בחלקו על ידי ביצוע הנחיות לא מדויקות שהתקבלו ממכשיר GPS, הוא דוגמה נוספת לשאננות אוטומציה.