אלגוריתם COMPAS, שמעריך את הסיכוי להישנות פשע על ידי 137 פרמטרים, מתמודד עם המשימה רק ב -65% מהמקרים. בניסוי, אותן תוצאות הושגו על ידי אנשים שאין להם ניסיון בעבודה עם תיקים פליליים.
חוקרים ממכללת דארטמות 'בארצות הברית העריכו עד כמה יעיל האלגוריתם של COMPAS להעריך את הסבירות שהפשע יחזור על עצמו בנאשמים. התוכנית זיהתה בהצלחה עבריינים חוזרים רק ב -65% מהמקרים. אנשים ללא השכלה מיוחדת וניסיון בגזר דין התמודדו עם משימה זו ב -67% מהמקרים, כשהם יודעים רק את הגיל, המין וההיסטוריה של פשעי הנאשם. מחברי היצירה החדשה סבורים כי עדיין לא כדאי להסתמך על אלגוריתמים כאלה בפרקטיקה שיפוטית אמיתית - ההסתברות לטעות גבוהה מדי.
תוכנית COMPAS פותחה בשנת 1998, ומאז היא משמשת להערכת התנהגותם של יותר ממיליון מהנאשמים. האלגוריתם מנתח 137 פרמטרים של הביוגרפיה של המורשע, כולל חומרת הפשעים הקודמים, רמת השכלתו והכנסתו של האדם, מצבו המשפחתי ונוכחות התמכרויות. התוכנית גם מביאה בחשבון את תוצאות הבדיקות הפסיכולוגיות של העבריין, כולל מזג, נכונות לקחת סיכונים, מידת הנרקיסיזם ונטייה לחוש אשמה. בהתבסס על נתונים אלה, COMPAS צופה את הסיכוי להישנות פלילית בשנתיים הקרובות. בשנים האחרונות הפופולריות של אלגוריתמים כאלה הולכת וגדלה - תוצאותיהם משמשות כחומרים בבית המשפט.
בשנת 2016, הארגון ללא כוונת רווח ProPublica הרשיע את COMPAS בנטייה לגזענות: התברר כי התוכנית מעריכה לעתים קרובות את הסיכון להישנותם של אסירים שחורים. מחברי היצירה החדשה השתמשו באותו מאגר מידע המכיל מידע על 7,214 נאשמים. המדענים גייסו 400 מתנדבים ללא ניסיון משפטי. משתתפי הניסוי קיבלו תיאורים קטנים של הפושעים: גילם, מגדרם ורשימת פשעים עם ציון החומרה. על סמך מידע זה, המשתתפים העריכו האם האדם ביצע פשעים בתוך שנתיים לאחר השחרור.
COMPAS מצאו את התשובה הנכונה 65% מהמקרים, אנשים - 67%. בשלב השני של המחקר הושווה יעילות ה- COMPAS לאלגוריתם אחר, שהיה בו רק מידע על גיל הנאשם ועל מספר הפשעים בעבר שלו. התוצאות של שתי התוכניות היו דומות.
כותבי העבודה מאמינים שאלגוריתמים כאלה דורשים פיתוח זהיר יותר. כיום הדיוק שלהם נמוך יחסית, ולכן השימוש בתוצאות בבית המשפט צריך להיעשות בזהירות.
המחקר מתפרסם בכתב העת Science Advances.
בעבר, מדענים פיתחו אלגוריתם שיכול לזהות את אופיו המתוכנן של פשע על ידי פעילות המוח של הפושע.