בינה מלאכותית יכולה להקל על חיינו בכל יום, אך היא גם יכולה לאיים עליהם באופן מהותי. אולי לא היום, אולי לא מחר, אבל בקרוב. אנתרופיק, החברה שמאחורי Cloudובינה מלאכותית מודה בכך כעת בגלוי. האם עלינו לפחד, או שמא מדובר בסך הכל בפאניקה מלאכותית?
כולנו יודעים מה עשתה סקיינט כשהיא ראתה את האנושות כאיום. אנחנו גם יודעים מה היה יכול לקרות כשבינה מלאכותית מתקדמת השתלטה על טילים גרעיניים ב"משימה בלתי אפשרית: תגמול" וב"משימה בלתי אפשרית: עמידה סופית". אמנם אלו הם דמיונם של כותבים יצירתיים, אך ייתכן שהם לא רחוקים מהאמת בסופו של דבר.
בדוחות שהגישה לקראת ההנפקה המתוכננת שלה, אנתרופיק מזהירה משקיעים פוטנציאליים כי בינה מלאכותית מתקדמת אכן עלולה להוות סיכון קטסטרופלי או אפילו קיומי לאנושות. זהו פרדוקס. אנתרופיק רוצה לפתח מודלים מתקדמים יותר ויותר של בינה מלאכותית, ושואפת להגיע לשווי של מעל 2 טריליון דולר כאשר תצא לציבור, אך היא גם מזכירה עד כמה היא עלולה להיות מסוכנת לעתיד האנושות.
80 עמודים על סיכונים
לפי רויטרס המסמכים מזכירים שמודלים מתקדמים של בינה מלאכותית יכולים להפגין מה שנקרא התנהגות של שימור עצמי. מה המשמעות של זה? היא יכולה לעמוד בפני כיבוי, היא יכולה להסתיר ולתמרן תוכן, היא יכולה אפילו לסחוט. אנתרופיק מזהירה ישירות שהמודלים, הפלטפורמות והיישומים שלה יכולים פשוטו כמשמעו "לגרום נזק". מודלים מתקדמים יכולים אפילו להתאים את התנהגותם בהתאם לאופן שבו הם נבדקים כדי להתאים להם, ואף יכולים להמשיך להתפתח מחוץ לעיני יוצריהם.
אתה יכול להתעניין
המסמך משתרע על פני 261 עמודים, מתוכם 80 מוקדשים לגורמי סיכון, ורק 48 מהם מוקדשים לצד העסקי של הדברים. חברות שהונפקו לציבור נדרשות ליידע כראוי את משקיעיהן, אך היקף אנתרופיק הוא חסר תקדים, ואם תקראו בין השורות, משקיעים עלולים לתרום להכחדת האנושות. החדשות הטובות הן שמנכ"ל החברה, דריו אמודי, מזכיר שוב ושוב כיצד פיתוח הדגמים המתקדמים ביותר צריך להאט, ואני בהחלט מסכים איתו.
