مسرد حوكمة الذكاء الاصطناعي

لا توجد مصطلحات مطابقة.

إجراء تصحيحي Corrective action

إجراء يُتخذ لإزالة سبب حالة عدم المطابقة لمنع تكرارها. ومعالجة العَرَض وحده لا تستوفي المتطلب.

إخفاء الهوية Anonymisation

إزالة الصلة بين البيانات وشخص يمكن تحديد هويته إزالة لا رجعة فيها. ويختلف عن الترميز المستعار القابل للعكس والذي يظل قانونًا بيانات شخصية.

الاستراتيجية الوطنية للذكاء الاصطناعي National AI strategy

التوجّه المعلن للحكومة بشأن تبنّي الذكاء الاصطناعي وبناء القدرات وتنظيمه. والاستراتيجية التي لا تسندها هيئة محددة وخارطة طريق ممولة هي بيان نوايا لا استراتيجية.

الإشراف البشري Human oversight

ترتيبات تضمن قدرة شخص كفء على فهم عمل نظام الذكاء الاصطناعي ومراقبته والتدخل فيه أو تجاوزه. والإشراف الذي لا يستطيع تغيير النتيجة فعليًا ليس إشرافًا.

الإنسان ضمن الحلقة Human-in-the-loop

ترتيب يراجع فيه شخص كل قرار مدعوم بالذكاء الاصطناعي أو يعتمده قبل نفاذه.

التحيّز Bias

اختلاف منهجي في تعامل النظام مع فئات أو حالات. والتحيّز صفة للنتائج لا للنوايا، وقد ينشأ من البيانات أو التصميم أو سياق النشر.

التحيّز نحو الأتمتة Automation bias

ميل الإنسان إلى الإفراط في الثقة بالمخرجات الآلية وتقليل إعمال حكمه المستقل. وهو يُبطل ترتيبات الإشراف البشري بصمت.

التدقيق الداخلي Internal audit

مراجعة مخططة وموثقة يجريها مدققون أكفاء مستقلون عن النشاط محل التدقيق، للتحقق من مطابقة نظام الإدارة وفاعلية تطبيقه. وغيابه يمنع الحصول على الشهادة.

الذكاء الاصطناعي من طرف ثالث Third-party AI

قدرة ذكاء اصطناعي يُحصل عليها من مورّد خارجي. وتبقى المساءلة عن النتائج على عاتق المؤسسة الناشرة بغض النظر عمّن بنى النموذج.

الشفافية Transparency

الإفصاح عن قدرات نظام الذكاء الاصطناعي وحدوده وأوجه استخدامه — بما يشمل إبلاغ الشخص المتأثر بأن الذكاء الاصطناعي كان طرفًا في الأمر أصلًا.

المتانة Robustness

قدرة نظام الذكاء الاصطناعي على الحفاظ على أدائه في ظروف تختلف عن تلك التي طُوِّر فيها، بما في ذلك المدخلات العدائية.

المخاطر المتبقية Residual risk

الخطر الذي يبقى بعد المعالجة. ويجب أن يقبله مالك مسؤول بشكل صريح، لا أن يُترك دون تصريح.

المساءلة Accountability

التزام شخص محدد بالاسم أو جهة محددة بالإجابة عن القرارات المتخذة بواسطة نظام ذكاء اصطناعي أو بمشاركته. وهي تختلف عن المسؤولية التنفيذية: فالمساءلة لا يمكن تفويضها إلى نموذج أو إلى مورّد.

النموذج الأساس Foundation model

نموذج كبير مدرَّب على بيانات واسعة وقابل للتكيّف مع مهام لاحقة متعددة. وأثره على الحوكمة أن المؤسسة التي تنشره لم تدرّبه وقد لا تستطيع تفسيره.

النموذج اللغوي الكبير Large language model

نموذج مدرَّب على التنبؤ بتسلسلات النصوص، يُستخدم في التوليد والتلخيص والتصنيف. وطلاقته ليست دليلًا على دقته.

الهلوسة Hallucination وتَرِد أيضًا بصيغة: التوليد الزائف

مخرَج سلس وواثق لكنه بلا أساس واقعي. وهو مسألة حوكمة في كل موضع يصل فيه المخرَج إلى قرار دون تحقق.

الهيئة التنظيمية Regulatory authority

الجهة التي تملك صلاحية إصدار قواعد الذكاء الاصطناعي وتفسيرها وإنفاذها. وصلاحياتها وتمويلها واستقلالها هي ما يحدد إن كانت الاستراتيجية نافذة فعلًا.

انحراف النموذج Model drift

تدهور أداء النموذج بمرور الوقت مع ابتعاد بيانات الواقع التي يواجهها عن بيانات تدريبه. ويستوجب مراقبة مستمرة لا تحققًا لمرة واحدة.

بطاقة النموذج Model card

توثيق منظّم للاستخدام المقصود للنموذج وأدائه وحدوده وبيانات تقييمه. وهو وسيلة عملية لاستيفاء متطلبات الشفافية.

بيان القابلية للتطبيق Statement of Applicability

الوثيقة التي تسجّل أي ضوابط الملحق A تنطبق على المؤسسة وأيها لا ينطبق، مع تبرير كل استثناء. وهي أول ما يقرؤه المدققون.

بيانات التدريب Training data

مجموعة البيانات المستخدمة لضبط معاملات النموذج. ومصدرها وترخيصها ومدى تمثيلها كلها مسائل حوكمة، لا مسائل تقنية فحسب.

تتبّع مسار البيانات Data lineage

السجل الموثق لمصدر البيانات وكل تحويل أُجري عليها. وهو لازم للإجابة عن سؤال المدقق حول سبب إنتاج النظام لمخرج معيّن.

تدقيق الاعتماد Certification audit

التقييم الخارجي على مرحلتين من جهة اعتماد معتمدة: تراجع المرحلة الأولى الوثائق والجاهزية، وتختبر المرحلة الثانية التطبيق الفعلي على أرض الواقع.

تدقيق المتابعة Surveillance audit

تدقيق خارجي دوري خلال فترة سريان الشهادة للتأكد من استمرار فاعلية النظام. فالاعتماد ليس حدثًا لمرة واحدة.

تقليل البيانات Data minimisation

جمع البيانات اللازمة لغرض معلن والاحتفاظ بها دون سواها. وهو متطلب قانوني في معظم أنظمة حماية البيانات، وتقليل للمخاطر في حد ذاته.

تقييم أثر نظام الذكاء الاصطناعي AI system impact assessment وتَرِد أيضًا بصيغة: دراسة الأثر

تقييم العواقب التي قد يُحدثها نظام الذكاء الاصطناعي على الأفراد والجماعات والمجتمع — وهو يختلف عن المخاطر التي تتعرض لها المؤسسة نفسها. ويشترط معيار ISO/IEC 42001 كليهما.

تقييم المطابقة Conformity assessment

عملية إثبات استيفاء متطلبات محددة — سواء بإقرار ذاتي أو بمراجعة من طرف ثانٍ أو باعتماد من طرف ثالث معتمد.

تقييم مخاطر الذكاء الاصطناعي AI risk assessment

تحديد وتحليل وتقويم منهجي للمخاطر الناشئة عن أنظمة الذكاء الاصطناعي، وفق معايير تحددها المؤسسة مسبقًا.

حالة عدم مطابقة Nonconformity

إخفاق في استيفاء متطلب. وحالة عدم المطابقة الكبرى تمنع الاعتماد، بينما تستوجب الصغرى خطة إجراء تصحيحي.

حوكمة البيانات Data governance

توزيع الملكية ومعايير الجودة وقواعد الوصول على بيانات المؤسسة. ونادرًا ما تفشل جاهزية الذكاء الاصطناعي عند النماذج؛ بل تفشل هنا.

دورة حياة الذكاء الاصطناعي AI lifecycle

المراحل من التصوّر مرورًا بالتصميم والتطوير والنشر والتشغيل حتى الإيقاف. ويشترط معيار ISO/IEC 42001 وجود ضوابط على امتدادها كلها، لا عند الإطلاق فحسب.

سياسة الذكاء الاصطناعي AI policy

البيان الأعلى لنيّة المؤسسة وتوجّهها في الذكاء الاصطناعي، معتمدًا من القيادة. وهو بموجب معيار ISO/IEC 42001 متطلب موثّق، لا مُخرَجًا اختياريًا.

قابلية التفسير Explainability

مدى إمكانية عرض أسباب مخرجات نظام الذكاء الاصطناعي بصيغة يفهمها الإنسان. وهي غالبًا متطلب تنظيمي في قرارات القطاع العام.

قانون الذكاء الاصطناعي الأوروبي EU AI Act

لائحة الاتحاد الأوروبي لتنظيم الذكاء الاصطناعي وفق مستويات المخاطر. ولها أثر يتجاوز الحدود: إذ قد تخضع لها مؤسسات خارج الاتحاد إذا استُخدمت مخرجات أنظمتها داخله.

قانون حماية البيانات Data protection law

تشريع ينظّم معالجة البيانات الشخصية. ولدى معظم دول الخليج اليوم تشريع من هذا النوع؛ وتخضع له مشاريع الذكاء الاصطناعي التي تمسّ بيانات شخصية سواء ورد ذكر الذكاء الاصطناعي في نصه أم لا.

مراجعة الإدارة Management review

مراجعة رسمية لنظام الإدارة تجريها الإدارة العليا على فترات مخططة، تشمل الأداء ونتائج التدقيق والمخاطر وفرص التحسين. ويجب توثيقها.

معالجة المخاطر Risk treatment

الاستجابة المختارة لخطر جرى تقييمه: التعديل أو القبول أو التجنب أو المشاركة. وقبول الخطر خيار مشروع فقط إذا كان موثقًا ومعتمدًا من جهة مخوّلة.

معايير الشراء Procurement criteria

الأساس المعلن الذي يُقيَّم عليه موردو الذكاء الاصطناعي. والمعايير الناضجة تتجاوز السعر إلى ملكية البيانات وقابلية التدقيق والاعتماد على المورّد وتكلفة الخروج من العقد.

معيار ISO/IEC 42001 ISO/IEC 42001

المعيار الدولي الذي يحدد متطلبات إنشاء نظام إدارة الذكاء الاصطناعي وتطبيقه والحفاظ عليه وتحسينه المستمر. وهو قابل للاعتماد، ويتبع البنية الموحدة للبنود نفسها المعتمدة في معياري ISO 27001 وISO 9001.

موطن البيانات Data residency وتَرِد أيضًا بصيغة: الإقامة الجغرافية للبيانات

اشتراط تخزين البيانات أو معالجتها داخل نطاق قضائي محدد. وهو غالبًا القيد الذي يحدد أي موردي الذكاء الاصطناعي قابلون للاعتماد في أعمال القطاع العام الخليجي.

ميثاق الأخلاقيات Ethics charter

مجموعة مبادئ منشورة تحكم الاستخدام المقبول للذكاء الاصطناعي. ولا تكون ذات جدوى إلا إذا تُرجمت المبادئ إلى ضوابط قابلة للاختبار؛ وإلا فهي وثيقة إعلامية.

نظام إدارة الذكاء الاصطناعي AI management system (AIMS)

مجموعة السياسات والأهداف والعمليات والأدوار المترابطة التي توجّه بها المؤسسة أنشطتها في الذكاء الاصطناعي وتتحكم بها. وهو الكيان الذي يُعتمد وفق معيار ISO/IEC 42001 — لا نظام الذكاء الاصطناعي ذاته.

نظام الذكاء الاصطناعي AI system

نظام مُهندَس يُنتج مخرجات كالتنبؤات أو التوصيات أو القرارات لمجموعة أهداف محددة، بدرجات متفاوتة من الاستقلالية.