טכנולוגיית הבינה המלאכותית מתפתחת במהירות ויכולה ליצור מגוון רחב של יתרונות לתעשייה ולחברה, בהם שיפור ביכולות חיזוי, אופטימיזציה של פעולות, ייעול הקצאת משאבים, ואספקת שירותים בהתאמה אישית. אך אותם יתרונות שהופכים את הבינה המלאכותית לטכנולוגיה יעילה ונחוצה, גם מגלמים בו זמנית את הסיכונים ואת ההשפעה השלילית על הפרט ועל החברה שעלולים להיגרם מהשימוש בה.
לנוכח החשש מסיכונים אלו, ובפרט מפגיעה בזכויות אדם שעלולה להיגרם משימוש בבינה מלאכותית, פרסמו ביום 21 באפריל 2021 הפרלמנט האירופי והמועצה האירופית טיוטת תקנות, המציעה ליצור הרמוניה בדין החל על מערכות בינה מלאכותית במדינות האיחוד האירופי.[1] בישראל טרם פורסמה הצעת רגולציה דומה בהיקפה ובתוכנה, אך לאחרונה פורסם קול קורא המזמין את הציבור להביע עמדה לגבי חסמים רגולטוריים קיימים ורגולציה עתידית של תחום הבינה המלאכותית בישראל. נציג להלן את התקנות האירופיות ואת הקול הקורא הישראלי.
התקנות האירופיות מגדירות מערכת בינה מלאכותית כתוכנה שפותחה באמצעות טכנולוגיה המבוססת על יעדים שהגדיר האדם, במטרה לייצר תוכן, חיזויים, המלצות או החלטות המשפיעות על הסביבה. לעמדת מנסחי התקנות, הגדרה זו של מערכות בינה מלאכותית נועדה להיות ניטרלית ככל שניתן ולהתאים לפיתוחים הטכנולוגיים המהירים בשוק, במטרה ליצור ודאות משפטית גבוהה.
פרסום התקנות הוא חלק מאסטרטגיית השוק הדיגיטלי של האיחוד האירופי, ומטרתו להבטיח את תפקודו התקין של השוק הפנים-אירופי באמצעות הרמוניזציה של כללים לפיתוח מוצרים ושירותים העושים שימוש בבינה מלאכותית, שיווקם, ועשיית שימוש בהם.
התקנות עוסקות במספר נושאים מרכזיים:
-
- הגנה על הזכויות ועל ערכי היסוד המעוגנים באמנת הזכויות של האיחוד האירופי: התקנות מציעות כי גורמים המפתחים מערכות בינה מלאכותית יחויבו לבצע בדיקות מקדימות של פוטנציאל המערכת לפגוע בזכויות; לבצע ניהול סיכונים יעיל; ולקיים פיקוח אנושי על הטכנולוגיה, כל זאת, במטרה למזער את הסיכון לכך שתתקבלנה החלטות שגויות או מוטות בעת השימוש בבינה מלאכותית במגוון תחומי חיים. כך, במקרה שבכל זאת ייפגעו זכויות או עקרונות יסוד, יתאפשר תיקון מהיר ויעיל של הפגיעה.
התקנות קובעות אילו מערכות בינה מלאכותית יהיו אסורות לשימוש בשל הסיכון הגבוה לפגיעה בזכויות אדם הגלום בהן. על פי המוצע, ייאסר שימוש במערכות שביכולתן לנצל נקודות תורפה של אוכלוסיות פגיעות ולהשפיע מהותית על התת-מודע באופן שיפגע באוכלוסיות אלו פסיכולוגית או פיזית. כן אוסרות התקנות שימוש ב"ניקוד חברתי" מבוסס בינה מלאכותית בידי רשויות ציבוריות, ושימוש במערכות בינה מלאכותית מרחוק "בזמן אמת" לצרכי אכיפת חוק (בכפוף לחריגים).
התקנות קובעות גם כללים ספציפיים החלים על מערכות בינה מלאכותית בעלות סיכון גבוה לפגיעה בבריאותו של אדם, בבטיחותו או בזכויות היסוד שלו. על פי המוצע, יותר שימוש במערכות אלו על פי גישה מבוססת סיכון, בכפוף לעמידה בדרישות מהימנות ובטיחות בטרם השימוש בהן, ולהיערכות מבעוד מועד לסכנות הגלומות בהן.
עוד הוטלה חובת שקיפות על מפעילי מערכות בינה מלאכותית ליידע את המשתמשים כי הם מקיימים אינטראקציה עם בינה מלאכותית (אלא אם ברור הדבר מנסיבות השימוש); וכן ליידע משתמשים שמקיימים אינטראקציה עם מערכות בינה מלאכותית המשמשות לזיהוי רגשות או קשרים חברתיים, ומייצרות או משפיעות על תוכן ועל זיופו, על הפעולות שמבצעת המערכת בהקשרים אלו.
-
- עידוד השקעות וחדשנות בפיתוח מערכות בינה מלאכותית: התקנות מעודדות רשויות מוסמכות להקים "ארגזי חול רגולטוריים" שיצרו סביבה משפטית מבוקרת לפיתוח טכנולוגיות חדשניות ובדיקתן, ולהפחתת הנטל הרגולטורי החל על חברות קטנות, בינוניות וחברות סטרט-אפ. לשם כך קובעות התקנות מסגרת רגולטורית בסיסית מוצעת.
- קביעת הגורמים האחראים על יישום התקנות: התקנות קובעות כי כל מדינה חברה באיחוד תצטרך לייעד רשות מוסמכת אחת או יותר לצורך פיקוח על יישומן, וכי המפקח האירופי על הגנת מידע ישמש כגורם המוסמך לפיקוח על האופן בו מיישמות רשויות אלה את התקנות.
התקנות מסדירות גם הקמת מאגר מידע בו יירשמו, בטרם יצאו לשוק הרחב, כלל מערכות הבינה המלאכותית הנושאות סיכון גבוה לפגיעה בזכויות יסוד. כן מטילות התקנות חובות ניטור ודיווח על ספקי מערכות בינה מלאכותית, לרבות לצורך חקירת תקלות.
-
- עידוד אימוץ וולונטרי של התקנות: התקנות מעודדות ספקי מערכות בינה מלאכותית שאינן נחשבות מערכות ברמת סיכון גבוהה, להחיל על עצמם באופן וולונטרי את הדרישות החלות על ספקי מערכות בינה מלאכותית ברמת סיכון גבוהה, ובכללן – כללי קיימות סביבתית, נגישות לאנשים עם מוגבלות, מעורבות של משקיעים בפיתוח המערכות, ועידוד גיוון (diversity) בצוותי הפיתוח.
מטרתן המוצהרת של התקנות האירופיות היא לבטא גישה רגולטורית מאוזנת ומידתית, ולהימנע מעיכובים ומהגבלות בלתי מידתיות של ההתפתחויות הטכנולוגיות הצפויות בתחום, ומהגדלת העלויות הנלוות לפיתוח טכנולוגיות אלו.
בישראל טרם פורסמה הצעה דומה לאסדרה המקיפה של האיחוד האירופי בתחום הבינה המלאכותית. עם זאת, לאחרונה פרסמו המחלקה הכלכלית במחלקת ייעוץ וחקיקה במשרד המשפטים והרשות הלאומית לחדשנות טכנולוגית קול קורא, המזמין את הציבור להביע עמדה לגבי חסמים רגולטוריים קיימים ורגולציה עתידית של תחום הבינה המלאכותית בישראל, בדגש על ניסוי והטמעה של טכנולוגיות בתחום זה.[2]
הקול הקורא פונה לגופים ישראליים ובינלאומיים, לרבות חברות הייטק, יזמים, משקיעים, אנשי אקדמיה, יועצים ונותני שירותים אשר להם ניסיון ונגיעה עסקית או טכנולוגית בתחום הבינה המלאכותית, ומטרתו קבלת מידע ועמדות לצורך שקילת האפשרות לנקוט פעולות רגולטוריות לקידום מחקר, פיתוח, ניסוי והטעמת טכנולוגיות בינה מלאכותית בישראל.
ניתן להגיש תגובות לקול הקורא עד ליום 31 במאי 2021.
_
לפרטים נוספים ולייעוץ בנושא, ניתן לפנות לעו"ד אביעד לחמנוביץ', עו"ד גיא פוקס או עו"ד רינת גרויסמן ממחלקת הבנקאות במשרדנו.
_