إستشارة تقنية
يمتلك الذكاء الاصطناعي قيمة هائلة، لكن تحقيق الفوائد الكاملة للذكاء الاصطناعي يتطلب مواجهة مخاطره المحتملة وإدارتها. الأنظمة المتقدمة نفسها المستخدمة في اكتشاف أدوية جديدة، وفحص الأمراض، ومواجهة تغيُّر المناخ، والحفاظ على الحياة البرية وحماية التنوع البيولوجي، يمكن أن تُنتج أيضًا خوارزميات متحيزة تسبِّب الضرر وتقنيات تهدِّد الأمن والخصوصية وحتى وجود الإنسان.
إليك نظرة أقرب على 10 مخاطر للذكاء الاصطناعي واستراتيجيات قابلة للتنفيذ لإدارة المخاطر. يمكن التخفيف من العديد من مخاطر الذكاء الاصطناعي المذكورة هنا، لكن خبراء الذكاء الاصطناعي والمطورين والشركات والحكومات ما زالوا بحاجة إلى التعامل معها.
البشر متحيّزون بالفطرة، والذكاء الاصطناعي الذي نطوِّره يمكن أن يعكس هذه التحيزات. هذه الأنظمة تتعلم التحيزات بشكل غير مقصود والتي قد تكون موجودة في بيانات التدريب، وتظهر في خوارزميات التعلم الآلي ونماذج التعلم العميق التي تدعم تطوير الذكاء الاصطناعي. قد تستمر هذه التحيّزات المكتسبة أثناء نشر الذكاء الاصطناعي، ما يؤدي إلى نتائج منحازة.
يمكن أن يؤدي تحيّز الذكاء الاصطناعي إلى عواقب غير مقصودة قد تكون ضارة. تتضمن الأمثلة أنظمة تتبُّع المتقدمين التي تميّز على أساس الجنس، وأنظمة التشخيص الصحي التي تعطي نتائج أقل دقة للفئات المحرومة من الخدمات تاريخيًا، وأدوات الشرطة التنبؤية التي تستهدف المجتمعات المهمشة بشكل غير متناسب، وغيرها.
إليك بعض الإجراءات التي يمكن اتخاذها:
يمكن للمهاجمين استغلال الذكاء الاصطناعي لشنّ الهجمات الإلكترونية. فهُم يتلاعبون بأدوات الذكاء الاصطناعي لاستنساخ الأصوات، وإنشاء هويات مزيفة، وصياغة رسائل تصيّد احتيالي مقنعة - كل ذلك بهدف الاحتيال أو الاختراق أو سرقة هوية الشخص أو المساس بخصوصيته وأمنه.
وبينما تستفيد المؤسسات من التقدم التكنولوجي مثل الذكاء الاصطناعي التوليدي، فإن 24% فقط من مبادرات الذكاء الاصطناعي التوليدي محمية. يهدد هذا النقص في الأمن تعرّض البيانات ونماذج الذكاء الاصطناعي للاختراقات، والتي يبلغ متوسط تكلفة الاختراق العالمي لها 4.88 ملايين دولار أمريكي في عام 2024.
إليك بعض الإجراءات التي يمكن اتخاذها:
فيما يلي بعض الطرق التي يمكن للمؤسسات من خلالها تأمين مسار الذكاء الاصطناعي الخاصة بها، وفقًا لتوصيات IBM Institute for Business Value (IBM IBV):
تُعَد النماذج اللغوية الكبيرة (LLMs) نماذج الذكاء الاصطناعي الأساسية للعديد من تطبيقات الذكاء الاصطناعي التوليدي، مثل المساعدين الافتراضيين وروبوتات المحادثة المدعومة بالذكاء الاصطناعي الحواري. كما يوحي اسمها، تتطلب هذه النماذج اللغوية حجمًا هائلًا من بيانات التدريب.
لكن البيانات التي تُستخدم لتدريب النماذج اللغوية الكبيرة غالبًا ما يتم جمعها عبر برامج الزحف على الويب التي تقوم بكشط المعلومات وجمعها من المواقع الإلكترونية. غالبًا ما يتم الحصول على هذه البيانات دون موافقة المستخدمين وقد تحتوي على معلومات تعريف شخصية (PII). وأنظمة الذكاء الاصطناعي الأخرى التي تقدِّم تجارب عملاء مخصصة قد تجمع بيانات شخصية أيضًا.
إليك بعض الإجراءات التي يمكن اتخاذها:
يعتمد الذكاء الاصطناعي على عمليات حسابية مكثفة تستهلك طاقة كبيرة وتترك بصمة كربونية عالية. يتطلب تدريب الخوارزميات على مجموعات بيانات كبيرة وتشغيل النماذج المعقدة كميات هائلة من الطاقة، ما يُسهم في زيادة الانبعاثات الكربونية. تُشير إحدى الدراسات إلى أن تدريب نموذج واحد لمعالجة اللغة الطبيعية ينبعث منه أكثر من 600,000 رطل من ثاني أكسيد الكربون، أي ما يقرب من خمسة أضعاف متوسط انبعاثات السيارة خلال عمرها الافتراضي.1
يُعَد استهلاك المياه مصدر قلق آخر. يعمل العديد من تطبيقات الذكاء الاصطناعي على خوادم في مراكز البيانات، والتي تولِّد حرارة كبيرة وتتطلب كميات كبيرة من المياه للتبريد. وجدت دراسة أن تدريب نماذج GPT-3 في مراكز بيانات Microsoft بالولايات المتحدة يستهلك 5.4 ملايين لتر من الماء، وأن معالجة 10 إلى 50 مطالبة تستخدم حوالي 500 مل، وهو ما يعادل زجاجة مياه عادية.2
إليك بعض الإجراءات التي يمكن اتخاذها:
في مارس 2023، بعد مرور 4 أشهر فقط على إطلاق ChatGPT بواسطة OpenAI، دعت رسالة مفتوحة من قادة التكنولوجيا إلى تعليق فوري لمدة 6 أشهر لتدريب "أنظمة الذكاء الاصطناعي الأقوى من GPT-4".3 بعد شهرين، حذَّر Geoffrey Hinton، المعروف بأنه أحد "كبار رواد الذكاء الاصطناعي"، من أن التطور السريع للذكاء الاصطناعي قد يتجاوز قريبًا مستوى الذكاء البشري.4 تبع ذلك بيان آخر من علماء الذكاء الاصطناعي وخبراء علوم الكمبيوتر وشخصيات بارزة، دعا إلى اتخاذ إجراءات للحد من خطر الفناء الناتج عن الذكاء الاصطناعي، معتبرًا هذا الخطر مكافئًا لمخاطر الحرب النووية والأوبئة.5
على الرغم من أن هذه المخاطر الوجودية تُعَد أقل إلحاحًا مقارنةً بالمخاطر الأخرى المرتبطة بالذكاء الاصطناعي، فإنها لا تزال ذات أهمية بالغة. يشير الذكاء الاصطناعي القوي أو الذكاء الاصطناعي العام إلى آلة نظرية تمتلك ذكاءً شبيهًا بالإنسان، في حين يشير الذكاء الاصطناعي الفائق إلى نظام ذكاء اصطناعي متقدم افتراضي يتجاوز قدرات الذكاء البشري.
اتخِذ إجراءً:
على الرغم من أن الذكاء الاصطناعي القوي والذكاء الاصطناعي الفائق قد يبدوان كخيال علمي، يمكن للمؤسسات الاستعداد لهذه التقنيات:
أصبح الذكاء الاصطناعي التوليدي بارعًا في محاكاة المبدعين، حيث يُنتج صورًا تعكس أسلوب الفنان، وموسيقى تُشبه صوت المغني، أو مقالات وقصائد تُشبه أسلوب الكاتب. ومع ذلك، يبرز تساؤل كبير: من يملك حقوق النشر للمحتوى الذي يُنشئه الذكاء الاصطناعي، سواء أكان تم إنتاجه بالكامل باستخدامه أو بمساعدة منه؟
لا تزال قضايا الملكية الفكرية (IP) المتعلقة بالأعمال الناتجة عن الذكاء الاصطناعي في تطور مستمر، والغموض المحيط بحقوق الملكية يشكِّل تحديات للمؤسسات.
إليك بعض الإجراءات التي يمكن اتخاذها:
من المتوقع أن يُحدِث الذكاء الاصطناعي تحولًا كبيرًا في سوق العمل، ما يُثير مخاوف من أن تؤدي الأتمتة المدعومة بالذكاء الاصطناعي إلى إزاحة العمّال. وفقًا لتقرير المنتدى الاقتصادي العالمي، تتوقع قرابة نصف المؤسسات المشاركة في الاستطلاع أن يؤدي الذكاء الاصطناعي إلى ظهور وظائف جديدة، في حين يرى ما يقارب ربعها أنه قد يتسبب في فقدان الوظائف.6
في حين يعزز الذكاء الاصطناعي نمو أدوار مثل متخصصي التعلم الآلي، ومهندسي الروبوتات، ومتخصصي التحول الرقمي، فإنه يدفع في الوقت نفسه إلى تراجع وظائف في مجالات أخرى. ويشمل ذلك أدوارًا مثل الأعمال الكتابية والسكرتارية وإدخال البيانات وخدمة العملاء، وذلك على سبيل المثال لا الحصر. أفضل وسيلة للتقليل من هذه الخسائر هي تبنّي نهج استباقي يدرس كيفية استفادة الموظفين من أدوات الذكاء الاصطناعي لتعزيز أعمالهم، مع التركيز على التمكين بدلًا من الاستبدال.
اتخِذ إجراءً:
من الضروري إعادة تأهيل الموظفين وصقل مهاراتهم لاستخدام الذكاء الاصطناعي بفعالية على المدى القصير. ومع ذلك، يوصي معهد IBM IBV باتِّباع نهج طويل الأمد قائم على ثلاثة محاور:
أحد المخاطر الأكثر غموضًا وتطورًا في الذكاء الاصطناعي هو غياب المساءلة. من المسؤول عندما يخطئ نظام الذكاء الاصطناعي؟ من يتحمل المسؤولية بعد القرارات الضارة الناتجة عن استخدام أداة الذكاء الاصطناعي؟
تبرز هذه الأسئلة في صدارة الاهتمام عند وقوع حوادث قاتلة وتصادمات خطرة تتعلق بالسيارات ذاتية القيادة، أو حالات الاعتقال الخاطئ الناتجة عن أنظمة التعرُّف على الوجوه. في حين أن هذه القضايا لا تزال قيد العمل من قِبل صانعي السياسات والهيئات التنظيمية، يمكن للشركات دمج المساءلة في استراتيجية حوكمة الذكاء الاصطناعي الخاصة بها من أجل تحسين الذكاء الاصطناعي.
إليك بعض الإجراءات التي يمكن اتخاذها:
غالبًا ما يتم النظر إلى خوارزميات ونماذج الذكاء الاصطناعي على أنها صناديق سوداء، حيث تظل آلياتها الداخلية وعمليات اتخاذ القرار فيها غامضة، حتى بالنسبة إلى الباحثين في الذكاء الاصطناعي الذين يعملون عن قرب مع التقنية. يشكِّل تعقيد أنظمة الذكاء الاصطناعي تحديات عندما يتعلق الأمر بفهم سبب توصلها إلى استنتاج معيّن وتفسير كيفية توصلها إلى تنبؤ معيّن.
يؤدي هذا الغموض وعدم الفهم إلى تآكل الثقة وحجب الأخطار المحتملة للذكاء الاصطناعي، ما يجعل من الصعب اتخاذ تدابير استباقية ضدها.
يقول Kush Varshney، الباحث المتميز والمدير الأول في IBM Research، في فيديو لـ IBM AI Academy حول الثقة والشفافية والحوكمة في الذكاء الاصطناعي: "إذا لم نمتلك الثقة في هذه النماذج، فلن نستطيع الاستفادة حقًا من الذكاء الاصطناعي في المؤسسات".
إليك بعض الإجراءات التي يمكن اتخاذها:
كما هو الحال مع الهجمات الإلكترونية، تستغل الجهات الفاعلة الضارة تقنيات الذكاء الاصطناعي لنشر المعلومات المضللة والأكاذيب، بهدف التأثير في قرارات الأشخاص وتصرّفاتهم والتلاعب بها. على سبيل المثال، تم إنشاء مكالمات روبوتية باستخدام الذكاء الاصطناعي تحاكي صوت الرئيس جو بايدن لإقناع عدد من الناخبين الأمريكيين بعدم التوجُّه إلى صناديق الاقتراع.11
بالإضافة إلى التضليل المرتبط بالانتخابات، يمكن للذكاء الاصطناعي إنتاج وسائط مزيفة، وهي صور أو مقاطع فيديو تم تعديلها لتزوير ظهور شخص وهو يقول أو يفعل شيئًا لم يقم به أبدًا. يمكن أن تنتشر هذه الوسائط المزيفة عبر وسائل التواصل الاجتماعي، ما يزيد من انتشار المعلومات المضللة، ويضرّ بالسمعة، ويعرّض الضحايا للتحرش أو الابتزاز.
تُسهم أيضًا ظواهر هلوسات الذكاء الاصطناعي في نشر المعلومات المضللة. تتراوح هذه المخرجات غير الدقيقة لكنها مقنعة بين أخطاء بسيطة في الحقائق إلى معلومات مختلقة قد تتسبب في حدوث أضرار.
إليك بعض الإجراءات التي يمكن اتخاذها:
يحمل الذكاء الاصطناعي إمكانيات كبيرة، لكنه يأتي أيضًا مع مخاطر محتملة. وفهم المخاطر المحتملة للذكاء الاصطناعي واتخاذ خطوات استباقية لتقليلها يمكن أن يمنح المؤسسات ميزة تنافسية.
