بينما تستكشف المؤسسات المالية الكويتية الذكاء الاصطناعي، يركز مستشار الأمن السيبراني حسين علي النقاس على القرارات الكامنة وراء استخدامه: أي المعلومات تدخل النظام، ومن يتحقق من أجوبته، وكيفية حماية ثقة العملاء.
يطلب موظف من مساعد ذكاء اصطناعي تلخيص وثيقة ما. تبدو المهمة روتينية، لكن إذا احتوت الوثيقة على معلومات خاصة بالعملاء تحول سؤال الإنتاجية إلى سؤال حول من يُسمح له بتلقي ومعالجة وحفظ بيانات الغير.
كان ذلك التوتر محور جلسة حديثة قدمها مستشار تكنولوجيا المعلومات والأمن السيبراني الكويتي حسين علي النقاس لقيادات بنك الخليج. ووصف النقاس المناقشة في تحديث مهني عام بأنها تناولت تبني الذكاء الاصطناعي المسؤول والتحقق قبل التصرف وحماية معلومات العملاء.
يساهم عمله هذا في طرح سؤال عملي داخل الاهتمام الكويتي الأوسع بالذكاء الاصطناعي. فبدلاً من تقييم ما إذا كانت الأداة تسرع العمل، يتعين على المنظمة أولاً أن تدرك ما يحدث للمعلومات المستخدمة في إنجاز ذلك العمل.
إحضار قرارات الذكاء الاصطناعي إلى غرفة القيادة
شارك النقاس في ندوة التوعية بالأمن السيبراني التي نظمها بنك الخليج، والتي جمعت أكثر من 100 من القادة التنفيذيين بمن فيهم الرئيس التنفيذي بالإنابة سامي محفوظ. وشكل الحدث جزءاً من شهر التوعية بالأمن السيبراني ودعم البنك لحملة «دراية» التوعوية التي يطلقها بنك الكويت المركزي.
جمع البرنامج متخصصين من القطاعين العام والخاص في نقاش واحد. ومن بين المشاركين ضابط جرائم إلكترونية من وزارة الداخلية وممثلون عن «كويت هاكرز» و«أكسون تكنولوجيز» ومدير الأمن المعلوماتي الرئيسي في بنك الخليج روس ماكناوتن.
وبحسب البنك، تناولت المناقشات الاحتيال المتطور والمخاطر السيبرانية الناشئة وتداعياتها على المؤسسات المالية. وظهر الذكاء الاصطناعي تكنولوجيا يمكن أن تعزز الأمن وفي الوقت نفسه يمكن إساءة استخدامها من قبل المهاجمين.
يهم الجمهور التنفيذي. فالقرارات المتعلقة بإدخال أداة وتحديد المسؤولية عن استخدامها والموافقة على المعلومات التي تستطيع الوصول إليها تتجاوز قسم التكنولوجيا وتؤثر على طريقة تنظيم المؤسسة لعملها اليومي.
تبدأ خصوصية العملاء قبل ظهور الإجابة
في حسابه للجلسة المعنون «الذكاء الاصطناعي وخصوصية البيانات: حماية الثقة»، صاغ النقاس المسألة حول كيف تستفيد المنظمات من الذكاء الاصطناعي مع حماية بيانات العملاء. وشدد على قرارات القيادة المستنيرة والضمانات الواضحة.
هناك سؤالان منفصلان: الأول يتعلق بالمادة التي تدخل نظام الذكاء الاصطناعي، والثاني بما يفعله الناس بالرد. فالجواب الذي يبدو مفيداً لا يثبت أن المعلومات المقدمة للحصول عليه تم التعامل معها بشكل سليم، ولا أن الجواب نفسه صحيح.
يعكس هذا التمييز ملف مخاطر الذكاء الاصطناعي التوليدي الصادر عن معهد المعايير والتكنولوجيا الوطني الأمريكي. يعامل الإطار خصوصية البيانات والمعلومات الكاذبة المقدمة بثقة -التي يسميها «الاختلاق»- كمخاطر منفصلة، كما يحدد المشكلات الناتجة عن تفاعل الناس مع أنظمة الذكاء الاصطناعي والاعتماد عليها.
بالنسبة لمؤسسة مالية تثير هذه الفئات أسئلة تشغيلية مختلفة. يستلزم حماية المعلومات تدقيقاً في الوصول إلى البيانات ومعالجتها، بينما يتطلب التحقق من الجواب وضع عملية لاختبار دقته قبل الاعتماد عليه. ولا تحل معالجة أحدهما الأمر الآخر تلقائياً.
إطار NIST إرشاد طوعي وليس قاعدة مصرفية كويتية، لكنه يوضح لماذا لا يمكن اختزال الإشراف على الذكاء الاصطناعي في فحص أمني واحد يُجرى عند إدخال البرمجية.
الكويت تخلق مساحة فعلية لاختبار الذكاء الاصطناعي
السياق المحلي أكثر تحديداً من النقاش العام حول التكنولوجيا المستقبلية. يدرج مركز الابتكار «ولوج» التابع لبنك الكويت المركزي الذكاء الاصطناعي في التمويل صراحة ضمن المجالات المقبولة لتطبيقات الصندوق الرملي.
وتشمل الأمثلة المدرجة تقييم المخاطر وروبوتات الدردشة لخدمة العملاء والتداول الخوارزمي واكتشاف الاحتيال. كما يُحدد الأمن السيبراني وخصوصية البيانات موضوعاً منفصلاً يغطي التكنولوجيات والممارسات الهادفة إلى حماية المعلومات المالية الحساسة.
هذه مجالات مؤهلة للاستكشاف وليست دليلاً على أن كل تطبيق يعمل فعلياً في بنوك الكويت. غير أن إدراجها يشير إلى أن تبني الذكاء الاصطناعي وحماية المعلومات يُنظران ضمن البرنامج المؤسسي ذاته.
يصف الإطار المنشور للمركز عملية خاضعة للإشراف تشمل التقييم والتوجيه والتجريب، ويتضمن مناقشة خطط الاختبار الفني والسلامة والتشغيلي إلى جانب أهداف قابلة للقياس وضمانات.
يوفر هذا الهيكل سياقاً مفيداً لتأكيد النقاس على التحقق. فإمكانية التطبيق تقنياً هي بداية التقييم فقط، أما تحديد سلوكه والمعلومات التي يستخدمها والضوابط المحيطة به فمهمة منفصلة.
من توعية الموظفين إلى قرارات حول البيانات
تأتي جلسة النقاس المصرفية الأخيرة إلى جانب عمله السابق مع موظفين خارج البنك. يسجل حساب شركة الصفاة للاستثمار لأنشطة موظفيها ورشة عمل في الأمن السيبراني قدمها للعاملين في برج الصفاة، تناولت التهديدات والأمن الرقمي والتوعية على المستويين الفردي والمؤسسي.
يوضح الارتباطان جمهورين مختلفين للمسألة الأساسية ذاتها. يواجه الموظفون المعلومات عبر مهامهم اليومية، بينما يرسم المديرون العمليات والأدوات التي تتم بها تلك المهام. ولا يستطيع التدريب الموجه لمجموعة واحدة الإجابة عن كل الأسئلة التي تواجه المجموعة الأخرى.
تضيف جلسة بنك الخليج الذكاء الاصطناعي إلى هذه العلاقة. فتأكيدها على التبني المسؤول والتحقق قبل التصرف يتعلق باللحظة التي يحول فيها الشخص الرد الآلي إلى قرار مؤسسي.
بالنسبة للعملاء فإن المخاطر العملية واضحة: هل تبقى معلوماتهم محمية، وهل تعتمد القرارات المتعلقة بهم على معلومات تم التحقق منها. وتظل هذه التوقعات قائمة بغض النظر عن البرمجية التي يستخدمها الموظف.
يخلص نقاش النقاس إلى سؤال ملموس أمام المنظمات التي تدخل الذكاء الاصطناعي في العمل اليومي: قبل التصرف بالإجابة، هل تستطيع أن تحاسب على البيانات التي دخلت وعلى التحققات التي طُبقت على ما خرج؟
