הבינה המלאכותית כבר כאן ומשתלבת אט-אט בכל חלק מחיינו, אך עד כמה היא מסוכנת לנו, בני האדם? ממתקפות סייבר ועד לדיפ פייקים.
על אף שאנו במערכת עכשיו בטכנולוגיה מקבלים בברכה את הבינה המלאכותית ונהנים לראות אותה משפיעה באופן חיובי על האינטרנט והעולם, רבים חוששים מעלייתה של הבינה המלאכותית וכניסתה לרבדים רבים בחיי היום-יום שלנו. על אף שהבינה המלאכותית יכולה לשפר דברים רבים, כך היא גם מסוכנת לנו. כמובן שתרחיש אפוקליפטי רחוק מאיתנו שנים רבות, אך בכל זאת ישנן מספר דרכים בהם יכולים להשתמש בני האדם דווקא בבינה המלאכותית על מנת לגרום נזק לאחרים. קראו להם פושעי סייבר או טרוריסטים, אך לעתים קרובות אותם האנשים פועלים מטעם מדינות.
מלחמת העולם השלישית, אם וכאשר תבוא, תהיה מהולה בסייבר. מדינות אשר משקיעות בתחום הגנת סייבר פועלות בדרך חכמה, אך הסייבר ההתקפי לא פחות חשוב. ברשימה הבאה תוכלו לקבל מושג על הסכנות הטמונות בשימוש בבינה המלאכותית על מנת לגרום נזק עצום, גם אם מדובר במחשבים וגם אם מה שיפגע תהיה התודעה שלנו, בני האדם. הבינה המלאכותית היא לא רק חושבת בעצמה, במקרים רבים בני אדם חושבים עבורה, וכאן ישנה סכנה אף גדולה יותר.
רובוטים חכמים בתור כלי נשק
צבאות רבים ברחבי העולם קשרו את עתידם עם רובוטים. אותם הרובוטים הם לא חכמים ולא תמיד מופעלים על ידי בינה מלאכותית, אך אין מניעה לעשות זאת. למשל, רחפן המכיל פצצות יכול לקבל יעד מוגדר מראש – ואז לנווט לבד, להשתמש בנתונים המתקבלים תוך כדי מעופו, להטיל את אותן הפצצות ולשוב לבסיסו. עד כאן – אנחנו בסדר. אבל מה אם בעזרת כישורי סייבר, האוייב יצליח לשים ידו על הרחפן, לשנות את נתוני הטיסה שלו ולשנות את יעד התקיפה? הרי אם היה מדובר בטייס אמיתי, הדבר לא היה אפשרי. אך מכיוון שמדובר ברחפן שאינו מאוייש, המידע שהוא מנתח אינו מחושב על ידי גורם אנושי ועל כן כל שינוי באותו המידע יכול לשנות את האופן שבו הוא פועל.
מסין, בעיקר בזמן הקורונה, צצו סרטונים של כלב-רובוט המסייר ברחובות וקורא לאנשים להיכנס לבתיהם בשל הסגר שהוטל. אין מניעה לחמש רובוט כזה ולשלוח אותו אל שדה הקרב, אפילו פלוגה שלמה של רובוטים כאלה. לאבד אותם בזמן הקרב לא יהיה כואב כמו לאבד חיילים בשר ודם. אך גם במקרה כזה, כמו בדוגמה הקודמת, יש סכנה שבעזרת כלי סייבר מתוחכמים יוכל האוייב להשתלט על הרובוטים ולכוון אותם דווקא לכיוון ההפוך – אל עבר שולחיהם. לא צריך "לשלוט" ברובוט, רק לגשת אל הנתונים שלו ולשנות אותם מעט.
מירוץ חימוש תוך שימוש בבינה מלאכותית
בעוד אנו בקהילת האינטרנט חוגגים את לידתו של מודל השיחה ChatGPT ושימוש ב-API שלו על מנת לבצע משימות כגון כתיבת קוד, כתיבת תוכן ועוד, ארגונים גדולים ומדינות מתנסות בשימוש בו על מנת לייצר רוגלות, נוזקות, כופרות, וירוסים ושאר ירקות. מדובר במירוץ חימוש המתרחש ממש ברגעים אלו, והוא מהווה סכנה גדולה לאנושות. ממש כמו בנשקים קונבנציונליים (או לא קונבנציונליים כמו גרעין למשל), ככל שהמוצרים שיצליחו בני האדם לפתח בעזרת בינה מלאכותית, כך הסכנה תהיה גדולה יותר לאנושות.
היכולת הטכנולוגית של בני האדם לא מוגבלת ליצירת וירוס שימחק לכם את המחשב או יצפין לכם את הקבצים, אבל בכל זאת יש גבול לאפשרויות הקיימות היום מבחינת היכולת האנושית לייצר ולהוציא לפועל מתקפות סייבר כאלה ואחרות. בעזרת בינה מלאכותית שתכתוב את הקוד ותייצר אותו, ואפילו תמצא פתרונות לכשלונות ובאגים בזמן אמת, יכולים האקרים לייצר כלי פריצה מתקדמים ומתוחכמים שיבצעו מתקפה – ואם נכשלה? בעזרת בינה מלאכותית הקוד ייכתב מחדש וכלי הפריצה יבצע עוד ניסיון, וכן הלאה.
לוחמת סייבר
לוחמת סייבר הוא לא נושא חדש, ההיפך. כבר שנים ארוכות קבוצות, ארגונים, מדינות וצבאות עוסקים בלוחמת סייבר. מהבחינה הזאת – מלחמת העולם השלישית כבר החלה לפני כמה שנים ואנו בעיצומה. בכל יום אנו שומעים על רשויות, ארגונים ומדינות (ואפילו בתי חולים לילדים) הנמצאים תחת מתקפות סייבר וכופרה. חלק מאותם מתקפות כופרה, אגב, הם מזוייפות: הפורצים לא באמת מעוניינים בתשלום כופר תמורת מפתחות ההצפנה, רק לגרום לנזק תודעתי, ועל כן מדובר במתקפות לאומניות המתחזות לכופרות.
הבינה המלאכותית תמלא תפקיד חשוב מאוד בלוחמת הסייבר בשנים הקרובות, בעיקר ביצירת כלים התקפיים חסרי תקדים שספק אם המוח האנושי יהיה מסוגל להגן כנגדם. כמובן שמהצד השני גם הגנת הסייבר תשתמש בבינה המלאכותית על מנת לבצע ניתוחים ובדיקות הגנה, אך השאלה כאן דומה לכדורסל – האם ההגנה תהיה טובה כמו ההתקפה.
מדינות כגון סין, צפון קוריאה, איראן ורוסיה עוסקות בתחום הסייבר ההתקפי מזה שנים רבות ומגיעות להישגים משמעותיים אל מול המערב. מבין המדינות הללו, שלוש עויינות את ישראל ובקשר לרביעית, ובכן, זה מוטל בספק. לוחמת סייבר יכולה לשבש תשתיות ומערכות צבאיות שלמות, ובעזרת בינה מלאכותית הנזק יכול להיות כפול ומכופל. כפי שציינו לפני כן, שימוש בבינה המלאכותית על מנת לייצר כלי תקיפה אוטומטיים המשלבים כלי ניתוח ובדיקה, עקיפת הגנות ויצירת פתרונות יצירתיים תוך כדי, עלולים להיות סופניים כלפי מערכות הגנה.
מידע כוזב בעזרת בינה מלאכותית
תארו לכם שאתם יושבים בסלון, השעה 20:00 בערב, מדליקים את הטלוויזיה ולפתע כל הערוצים מפנים אל הצהרה מיוחדת של ראש הממשלה, בה הוא מכריז בקולו שהוא החליט להיכנע לאיראן ויש לכם שעה לארוז את חפציכם לפני שמשאיות עם חיילים איראנים מגיעים לפנות אתכם מהבתים. נשמע הזוי, נכון? אז טכנולוגיית דיפ פייק (Deep Fake) כאן כבר זמן רב, ויצירת סרטונים כאלו שנראים אמיתיים כמעט לחלוטין זה לא חלום. בעזרת בינה מלאכותית ניתן לייצר סרטונים המפיצים מידע כוזב הכוללים וידאו וקול, וגם אם לא מדובר בתרחיש כה הזוי, עדיין ניתן לייצר סרטונים להורדת המורל הלאומי, להפצת מידע כוזב ואף לפגוע ביחסים בין מדינות.
השתלטות על שידורי הטלויזיה הוא דבר שעדיין לא קרה בישראל, אך באיראן זה כבר קרה מספר פעמים (אהמ…), ושימוש במתקפת סייבר כפי שתיארנו לעיל יכולה לגרום לבהלה המונית או להפצת מידע כוזב שעלול לפגוע לא רק בתודעה שלנו, אלא גם ביכולות שלנו להגיב בזמן אמת לאירועים המתרחשים במחוזותינו. אז אמנם קל לקחת אותנו בתור מדינה שנמצאת בסכסוך מר ועקוב מדם בתור דוגמה, אך מתקפה כזאת יכולה להשפיע גם על הכלכלה במדינות אחרות, כמו למשל מידע כוזב אודות התרסקות הבורסה, נפילת שערי מטבעות ומחיר הזהב.
חישובים אסטרטגיים כושלים
האם שמעתם על החברה שמינתה רובוט AI לכהן כמנכ"ל החברה? לא מן הנמנע שבעתיד הקרוב אנו נראה יותר חברות משתמשות במודל השיחה על מנת לנתח את ההחלטות העסקיות והסטטיסטיקות שלהם, אך דבר אחד חשוב אסור לשכוח – הבינה המלאכותית אינה תחליף למחשבה האנושית והשימוש בה עלול להיות מוטעה ולגרום לתוצאות בלתי רצויות. לא מן הנמנע שגופים ביטחוניים וצבאות יחלו להשתמש בבינה המלאכותית על מנת לנתח אירועים או מבצעים מתוכננים, והסתמכות על התשובות של הבינה המלאכותית עלולה להביא לכשלונות צורבים.
במלחמה גדולה, אפילו מלחמת העולם השלישית, צבאות שיסתמכו על בינה מלאכותית בניהול אירועים וקרבות עלולים להגיע לתוצאות בלתי רצויות, בעיקר כאשר לאותה הבינה המלאכותית יש את היכולות לשלוט באופן אקטיבי על מערכות נשק שונות. תרחיש אפשרי הוא שהבינה המלאכותית, בהתאם לנתונים שהוא אגר או שהוזנו לו, יחליט להשתמש בנשקים לא קונבנציונליים מתוך החלטה שמדובר בכורח הנסיבות, והמפעילים שלו לא יספיקו לעצור אותו בזמן.
סיכום – האם יכולה הבינה המלאכותית להשמיד את העולם?
על אף שהבאנו כאן תרחישים מאוד קיצוניים שהסבירות של רובם להתרחש היא קטנה מאוד, היא עדיין קיימת. על אף שלבינה המלאכותית יכולות לתרום באופן משמעותי לאלימות והרס, היא גם יכולה להוביל לשלום וליציבות בעזרת מחשבה נבונה. מכיוון שאנו עדיין "חסרי ניסיון" בכל מה שקשור למלחמות המבוססות על בינה מלאכותית, אנו עדיין לא יכולים לדעת בוודאות מלאה אם וכיצד היא תיקח חלק ועד כמה הוא יהיה משמעותי. חשוב לזכור שבסופו של דבר הבינה המלאכותית תתפקד בדיוק בדרך שבני האדם יוצרים אותה.
האינטרסים של בני האדם משתנים בין מדינה למדינה וכל עוד האנושות תהיה תלוייה בגחמות כאלו ואחרות של אנשים מסויימים, ברור שאנו אפופים בענן של סכנה. אך ייתכן שהבינה המלאכותית תדע לנווט אותנו דווקא לעידן של שלום ושגשוג, ולא דווקא עידן של הרס מוחלט. על אף חמש הדרכים בהם יכולה בינה מלאכותית להשמיד את העולם כפי שהבאנו, יש גם דרכים רבות בהם הבינה המלאכותית תדע להוביל אותנו לעולם בטוח יותר.
