הסיכונים הקטסטרופליים של בינה מלאכותית – ודרך בטוחה יותר
1,101,972 plays|
Yoshua Bengio |
TED2025
• April 2025
יושע בנג'ו – מדען המחשב המצוטט ביותר בעולם ו"סנדק" של בינה מלאכותית – מודאג מאוד מהמסלול הנוכחי של הטכנולוגיה. בעוד שמודלי בינה מלאכותית רצים לעבר סוכנות במלוא מובן המילה, בנג'ו מזהיר שהם כבר למדו לרמות, להונות, לשמר את עצמם ולחמוק מהשליטה שלנו. בהסתמך על מחקרו פורץ הדרך, הוא מגלה תוכנית נועזת לשמור על ביטחון הבינה המלאכותית ולהבטיח ששגשוג אנושי, ולא מכונות עם כוח ואוטונומיה בלתי מבוקרים, יגדיר את עתידנו.