המועצה האירופאית אימצה לאחרונה את חוק הבינה המלאכותית (EU AI Act) הראשון מסוגו בעולם. זהו צעד חשוב לרגולציה של טכנולוגיית הבינה המלאכותית כיוון שהחוק מטפל באופן נרחב בסוגיות הקשורות לבינה מלאכותית אשר יש מי שסבור כי היא עלולה, בשלב מסוים, לסכן את האנושות כולה.
לחוק תהיינה השלכות על עתיד הטכנולוגיה כמו גם על היבטים של פרטיות, אתיקה ואבטחת מידע. הליך החקיקה שאומץ לאחר שורה של דיונים במוסדות האיחוד האירופאי נועד להסדיר את השימוש במערכות בינה מלאכותית, תוך הגנה על זכויות האדם והאזרחים.
השינוי בחוק האיחוד האירופאי מגיע לאחר השקת ChatGPT של OpenAI ב-2022 ופיתוח כלי בינה מלאכותית נוספים ומתקדמים ביותר מאז ומתוך הבנה שהחוק הנוכחי אינו מתאים להתמודד עם יכולות מתקדמות אלו של בינה מלאכותית ועם הסיכונים הכרוכים בשימוש לא ראוי בחומרים מוגנים בזכויות יוצרים.
על מנת למנוע סיכון
החוק נוקט גישה מבוססת סיכון: ככל שסיכון הנזק לציבור גבוה יותר, כך יוטלו מגבלות וסטנדרטים חמורים יותר על יישום הטכנולוגיה. המטרה, כאמור, היא לצמצם את הסיכון ולהגן על זכויות אדם ואזרח.
קיראו עוד באותו נושא >>> בינה מלאכותית וזכויות יוצרים: האם החוק מגן על יוצרים מפני AI?
ביסוד החוק עומדת המטרה להגן מפני סיכונים הנובעים משימוש לא ראוי בבינה המלאכותית ועלולים לפגוע בפרטיות, בחירות אישיות ובזכויות בסיסיות אחרות. החוק אוסר על יישומים של בינה מלאכותית שנחשבים ל"בלתי מקובלים" מבחינת רמת הסיכון הגבוהה שלהם, כגון יישומים לניקוד והערכה חברתית של אזרחים באמצעות איסוף וניתוח נתונים אישיים, יישומים לחיזוי והערכת סיכונים פליליים על בסיס נתונים ביומטריים, וכן שימוש בזיהוי לא מקובל במקומות עבודה ובתי ספר.
דרישות מפורטות
עבור מערכות בינה מלאכותית בעלות סיכון גבוה, כגון אלו המשפיעות על החלטות משמעותיות בנוגע לבני אדם, החוק מציב דרישות ספציפיות:
איסור על ניצול לרעה: החוק אוסר שימוש במערכות בינה מלאכותית שעלולות לפגוע בזכויות בסיסיות של אדם או לגרום להטיה גזעית, אתנית או על רקע מגדרי.
דרישות שקיפות: יצרני מערכות אלו נדרשים לספק מידע מפורט על המערכת, הנתונים ששימשו בהדרכתה והסיכונים הפוטנציאליים הכרוכים בשימוש בה.
עקרון ההסבר האנושי: החלטות משמעותיות שמתקבלות על ידי מערכות בינה מלאכותית חייבות להיות ניתנות להסבר על ידי בני אדם.
בקרה על אבטחת המידע: באמצעות אמצעי אבטחה מתאימים למניעת גישה לא מורשית, שיבושים והשפעות לוואי בלתי רצויות.
אכיפה ופיקוח
החוק קובע מנגנונים לפיקוח ואכיפה נאותים, כולל הקמת גוף פיקוח מיוחד במועצה האירופאית והסמכת גופים לפיקוח ואכיפה במדינות החברות. הפרות של החוק עלולות להוביל לקנסות כספיים משמעותיים ולבצע אכיפה בנושא. כך למשל, הוחלט על הקמת משרד ייעודי במועצה האירופאית שיעסוק בנושא הבינה המלאכותית ויפקח על יישום החוק. כמו כן, יוקם פאנל של אנשי מדע ומומחים עצמאיים שיסייעו בפעולות האכיפה וייתנו חוות דעת מקצועיות.
לנציבות האיחוד האירופאי תהיה הסמכות לקנוס חברות שיפרו את הוראות החוק בקנסות כספיים משמעותיים - עד 35 מיליון יורו או 7% מההכנסה השנתית העולמית של החברה לגבי אותה הפרה, הגבוה מביניהם.
בנוסף, יוקמו מנגנונים לפיקוח צמוד על מערכות בינה מלאכותית בעלות סיכון גבוה, לפני קבלת אישור לשיווק באירופה.
לסיכום, חוק הבינה המלאכותית של האיחוד האירופי הוא צעד חשוב בהסדרת טכנולוגיה משמעותית וצוברת תאוצה זו, תוך שמירה על ערכים חשובים של זכויות אדם, פרטיות ואתיקה. החוק צפוי להשפיע על התפתחות הבינה המלאכותית ויישומיה בעתיד הקרוב.
(צילום: שאטרסטוק)
