انتقل إلى المحتوى الرئيسي
قاعدة المعرفة

متى ينبغي أن يوصي الذكاء الاصطناعي ومتى ينبغي أن يقرر البشر

DBR77 Team6 دقائق للقراءة

في هذه الصفحة

اسمح للذكاء الاصطناعي بأن يتصرف بمفرده فقط حيث يكون الإجراء الخاطئ رخيصًا، وسريع التراجع عنه، وضمن حدود مكتوبة. واسمح له بأن يوصي، مع موافقة دور محدد بالاسم، حيث يغيّر القرار الخطة أو المنتج أو التكلفة أو السلامة. وكل ما عدا ذلك يبدأ عند مستوى "المراقبة": الذكاء الاصطناعي يراقب وينبّه، والبشر يتصرفون. حدد المستوى لكل نوع من القرارات، لا لكل نظام ذكاء اصطناعي، ولا ترفع قرارًا إلى مستوى أعلى إلا بالأدلة.

على المصنع أن يحسم القرارات التي يأتمن الذكاء الاصطناعي عليها، وبأي قواعد، ومن يُسأل عن النتيجة.

لماذا يُعد سؤال "الذكاء الاصطناعي أم الإنسان" سؤالًا خاطئًا

يتخذ المصنع مئات القرارات يوميًا. معظمها صغير: أي مهمة أولًا، وأي أمر تاليًا. وقليل منها كبير: الإفراج عن دفعة، أو تغيير وصفة، أو إيقاف خط إنتاج. ووضعها كلها تحت قاعدة واحدة لا معنى له. فإذا احتاج كل اقتراح من الذكاء الاصطناعي إلى توقيع مدير، فلن يتحرك شيء. وإذا لم يحتج أي منها، فسيفقد المصنع السيطرة على القرارات المهمة.

حلّت Toyota نسخة من هذه المشكلة قبل الذكاء الاصطناعي بزمن طويل. ففكرتها المسماة jidoka، أي "الأتمتة بلمسة إنسانية"، تتيح للآلة أن تكتشف الخلل وتتوقف تلقائيًا. تتولى الآلة العمل الروتيني والتوقف. ويستجيب البشر للخلل، وكما تقول Toyota، فإن البشر وحدهم يستطيعون تطبيق kaizen. لقد صمّمت Toyota هذا التقسيم للعمل بين الآلة والإنسان، والذكاء الاصطناعي في العمليات يحتاج إلى التصميم المدروس نفسه.

يستطيع الذكاء الاصطناعي أن يراقب أو ينصح أو ينفّذ، والمراقبة هي الوضع الافتراضي لكل جديد.

مصفوفة لثلاثة قرارات نموذجية في مصنع لقولبة البلاستيك: تكلفة الإجراء الخاطئ ومستوى الذكاء الاصطناعي ومن يقرر

ثلاثة مستويات: المراقبة، والنصح، والتنفيذ

المستوىما يفعله الذكاء الاصطناعيما يفعله الشخصقرارات نموذجيةقاعدة الموافقة
المراقبةيراقب البيانات، وينبّه إلى الانحراف، ويلخصيقرر هل يتصرف وماذا يفعلملاحظات السلامة، والخطوط الجديدة، والاستخدامات الجديدة للذكاء الاصطناعيلا توجد خطوة موافقة؛ الشخص مسؤول عن الإجراء
النصحيوصي بإجراء مع الأسباب ومستوى الثقةيوافق عليه أو يعدّله أو يرفضهتغييرات الجدولة، وأولوية أوامر العمل، والسبب الجذري المرجح، والتصرف في الدفعةدور محدد بالاسم يوافق خلال مهلة زمنية، وإلا يحدث التصعيد
التنفيذينفّذ الإجراء ضمن حدود مكتوبة ويسجّلهيراجع لاحقًا ويستطيع التراجع عنهمسودات المهام، وأوامر العمل الناتجة عن عتبة، وإعادة الطلب الروتينية دون قيمة محددةمسموح فقط للإجراءات الرخيصة والقابلة للتراجع والمحدودة

تضع معظم المصانع كل شيء تقريبًا عند مستوى "النصح" في البداية، وهذه بداية سليمة. ينبغي أن يكون "التنفيذ" نادرًا وضيقًا. و"المراقبة" هي الوضع الافتراضي لكل جديد.

خمسة أسئلة تحدد المستوى

لكل نوع من القرارات، أجب عما يلي:

  1. كم يكلّف الإجراء الخاطئ؟ هالك، أو شحنة فائتة، أو خطر على السلامة، أم عشر دقائق من إعادة العمل؟
  2. هل يمكن التراجع عنه؟ يمكن إعادة إسناد المهمة. أما الدفعة المشحونة فلا يمكن استرجاعها بتكلفة زهيدة.
  3. ما السرعة المطلوبة؟ إذا كانت القيمة تُقاس بالثواني، فقد يكون وجود شخص في الحلقة بطيئًا جدًا، فضع حدودًا صارمة بدلًا من ذلك.
  4. ما مدى جودة الأدلة؟ هل البيانات نظيفة، وهل أصاب الذكاء الاصطناعي في هذا القرار من قبل؟
  5. هل هو خاضع للتنظيم أو متعلق بالسلامة؟ إذا كان كذلك، فالشخص هو من يقرر، أيًا كانت الإجابات الأخرى.

مثال توضيحي: يراجع مصنع لقولبة البلاستيك ثلاثة قرارات. تبديل أمرين على المكبس نفسه خلال الوردية رخيص وقابل للتراجع، لذا يقع عند مستوى "النصح"، ويوافق المخطِّط بنقرة واحدة. أما الإفراج عن دفعة محجوزة للجودة بعد فحص فاشل فمكلف ويصعب التراجع عنه، لذا يبقى عند مستوى "النصح" ويكون مسؤول الجودة هو الموافق الوحيد، ولا ينتقل أبدًا إلى "التنفيذ". وفتح أمر عمل عندما تتجاوز درجة حرارة مياه التبريد حدًا محددًا لمدة 10 دقائق رخيص ومحدود، لذا يقع عند مستوى "التنفيذ": يُنشأ أمر العمل، ويكون له فني مسؤول، ويراه قائد الوردية عند تسليم الوردية.

كيف تكتب قواعد الموافقة

قاعدة الموافقة قصيرة وتجيب عن ستة أمور:

  • من يوافق: دور، لا شخص، حتى تعمل القاعدة في كل وردية.
  • المهلة الزمنية: كم من الوقت يمكن أن تنتظر التوصية.
  • ماذا يحدث في غياب الرد: التصعيد إلى الدور التالي. وافتراضيًا، لا يتغير شيء على خط الإنتاج.
  • ما الذي يراه الموافق: البيانات المستخدمة، والاستدلال، ومستوى الثقة.
  • ما الذي يُسجَّل: التوصية، والقرار، ومن اتخذه، وفي حالة التجاوز، السبب.
  • كيف يتم الإيقاف: من يستطيع إعادة القرار فورًا إلى مستوى "المراقبة".

ويتجه القانون في الاتجاه نفسه بالنسبة لأنظمة الذكاء الاصطناعي عالية المخاطر. إذ تشترط المادة 14 من قانون الذكاء الاصطناعي للاتحاد الأوروبي أن يتمكن الأشخاص الذين يشرفون على هذه الأنظمة من تفسير مخرجات نظام الذكاء الاصطناعي عالي المخاطر تفسيرًا صحيحًا، وأن يتمكنوا من تجاهلها أو تجاوزها أو عكسها، وأن يتمكنوا من إيقاف النظام عبر زر "إيقاف" أو إجراء مماثل. أما هل يُعد استخدام معين في المصنع عالي المخاطر فهي مسألة قانونية، لكن القائمة تصلح قائمة تحقق جيدة لأي قاعدة موافقة.

ويُعد إطار NIST لإدارة مخاطر الذكاء الاصطناعي، وهو دليل طوعي لإدارة المخاطر بشكل أفضل التي يشكلها الذكاء الاصطناعي على الأفراد والمؤسسات، مرجعًا مفيدًا عندما يكتب المصنع سياسته الخاصة للذكاء الاصطناعي.

متى ترفع القرار مستوى أو تخفضه

راجع المستويات شهريًا، مثلًا في اجتماع المستوى الثالث. ولكل نوع من القرارات، انظر كم مرة تُقبل التوصيات، وكم مرة تُعدَّل ولماذا، وكم مرة تبيّن أن توصية مقبولة كانت خاطئة.

لا ترفع القرار مستوى واحدًا إلا عندما يكون القبول مرتفعًا، والتجاوزات نادرة ومبررة جيدًا، والأخطاء رخيصة. واخفضه فورًا بعد خطأ مكلف، أو منتج جديد، أو تغيّر في البيانات. وللإبقاء على مسؤولين واضحين عبر الورديات، راجع كيف تحافظ على وضوح المسؤولية عبر الورديات؛ وللسجلات التي يستند إليها كل قرار، راجع كيف تحتفظ بسجلات جاهزة للتدقيق لقرارات المصنع.

كيف يعمل ذلك في DBR77 IRIS

في DBR77 IRIS، تنتظر توصيات Data & AI شخصًا يطبّقها أو يوافق عليها أو يرفضها أو يؤجلها، وتعرض كل منها الأساس الذي بُنيت عليه درجتها: القاعدة والصيغة والمدخلات. والدرجة هنا أولوية القاعدة، فلا يخلط أحد بينها وبين درجة يقين نموذج ما. ويقرأ مساعد IRIS البيانات والوثائق فقط، وتحتفظ شاشة Compliance بسجل لاستخدامات الذكاء الاصطناعي وللقرارات عالية المخاطر.

تتحول التوصية الموافَق عليها إلى مهمة لها مسؤول، ثم إلى أمر عمل أو تغيير في الجدولة أو تعديل في المعايير. وفي IRIS APS، تضمن نسخ الخطط ومسارات الموافقة أن يوقّع الأشخاص المناسبون قبل أن تصل الخطة إلى أرض المصنع. ويحتفظ السجل بكل توصية والقرار المتخذ بشأنها ونتيجتها، وتعود النتيجة لتحسين الاقتراح التالي. ويقترح مقال ما الذي يستطيع الذكاء الاصطناعي فعله حقًا في عمليات المصنع اليوم الاستخدامات التي يُبدأ بها.

الأسئلة الشائعة

هل يمكن للذكاء الاصطناعي أن يتصرف أحيانًا دون موافقة؟

نعم، في الإجراءات الضيقة الرخيصة والقابلة للتراجع والواقعة ضمن حدود مكتوبة، مثل فتح أمر عمل بناءً على عتبة. يُسجَّل الإجراء ويكون له شخص مسؤول.

من يُحاسَب عندما تكون توصية موافَق عليها خاطئة؟

الدور الذي وافق عليها، كما في أي قرار. ويُظهر السجل ما رآه الموافق، لذا يمكن للمراجعة أن تتبيّن هل تحتاج القاعدة أو البيانات إلى إصلاح.

ألن تبطئ الموافقات الوردية؟

لا، إذا كانت القواعد قصيرة ومحددة حسب المخاطر. الموافقات منخفضة المخاطر تستغرق نقرة واحدة. وقلة فقط من أنواع القرارات تحتاج إلى موافق من الإدارة العليا.

الخلاصة

اسرد القرارات التي يتخذها المخطِّطون والفنيون وفريق الجودة لديك كل أسبوع، ومرّر كلًّا منها على الأسئلة الخمسة، وامنحه مستوى مع قاعدة موافقة مكتوبة، ومهلة زمنية، وسجل، ووسيلة للإيقاف. ابدأ معظمها عند مستوى "النصح"، وأبقِ قرارات السلامة والإفراج عن الجودة بيد البشر. راجع المستويات شهريًا، ولا ترفع قرارًا إلا عندما تقول معدلات القبول والتجاوز والخطأ إن ذلك آمن.

المصادر