تعهيد تطوير الذكاء الاصطناعي دون خروج بياناتك: كيف يعمل فريق خارجي داخل أنظمتك

تستطيع شركة خارجية أن تبني نظام ذكاء اصطناعي وتشغّله على مستندات لا يجوز أن تغادر شركتك. فالمستندات تبقى على خوادمك، ويصل إليها مهندسو تلك الشركة عبر حسابات تُنشئها أنت وتستطيع تعطيلها، ومن أجهزة تتحكم بها. ويبنون النظام على عيّنات من المستندات وافق عليها فريقك، ولا يعملون على المستندات الحقيقية إلا على خوادمك. ولتجد شركة قادرة على العمل بهذه الطريقة، اسأل كيف وصل مهندسوها إلى مستندات عميل سابق، وما الذي حذفته الشركة في النهاية.

هل تستطيع شركة خارجية بناء نظام الذكاء الاصطناعي لدينا إن كان لا يجوز لبياناتنا أن تخرج من الشركة؟

نعم. أما مكان تشغيل النموذج اللغوي فقرار منفصل، تتناوله مقالة المحيط المغلق المشار إليها أعلاه. وهذه المقالة عن الأشخاص الذين يبنون النظام، وعمّا يستطيعون رؤيته ونسخه. فالنموذج الذي يعمل على خوادمك لا يحمي الكثير إذا حفظ مهندسٌ مجلدًا من المستندات الحقيقية على حاسوب محمول ليختبر موجّهًا (أي التعليمات التي يتبعها النموذج).

هل يُعدّ مجرد اطلاع مهندس على مستنداتنا خروجًا للبيانات؟

بموجب قانون حماية البيانات في الاتحاد الأوروبي، تُعدّ حتى قراءة البيانات الشخصية معالجةً. فالمادة 4(2) من GDPR تعرّف المعالجة بأنها أي عملية تُجرى على البيانات الشخصية، وتشمل القائمة الواردة فيها «الاطلاع» (consultation)، أي النظر في البيانات. والشركة التي يحتاج مهندسوها إلى هذا الوصول لأداء العمل تكون عادةً معالجًا للبيانات لحسابك (processor)، وهو مصطلح GDPR للشركة التي تتعامل مع البيانات الشخصية نيابةً عنك. وتشترط المادة 28 إبرام عقد أو صك قانوني ملزم آخر مع المعالج.

وإذا كان مقر الشركة خارج المنطقة الاقتصادية الأوروبية، فإن وصولها عن بُعد يُعدّ نقلًا للبيانات إلى الخارج، حتى لو اقتصر ظهور البيانات على شاشة. وهذا ما يقرره المجلس الأوروبي لحماية البيانات (EDPB)، الذي يضم سلطات حماية البيانات في دول الاتحاد الأوروبي، في مبادئه التوجيهية 05/2021.

ويحتاج النقل إلى أساس قانوني بموجب الفصل الخامس من GDPR. أحد هذه الأسس قرار الكفاية (adequacy decision)، الذي تقرّ فيه المفوضية الأوروبية بأن بلد الشركة يوفّر حماية كافية للبيانات الشخصية. وأساس آخر هو البنود التعاقدية القياسية (standard contractual clauses)، وهي شروط تعاقدية جاهزة اعتمدتها المفوضية في 4 يونيو 2021. وقبل الاستناد إليها، يقيّم الطرفان قوانين بلد الشركة، على النحو الذي تصفه توصيات المجلس 01/2020.

وفي الولايات المتحدة، تسري قاعدة الضمانات (Safeguards Rule) الصادرة عن لجنة التجارة الفيدرالية (FTC) على المؤسسات المالية الخاضعة لرقابة اللجنة، مثل مُقرضي الرهن العقاري ومُقرضي قروض يوم الدفع (payday lenders). وعلى هذه المؤسسات أن تتخذ خطوات معقولة لاختيار مزوّدي خدمات قادرين على حماية معلومات العملاء، وأن تُدرج هذه الحماية في العقد، وأن تراجع المزوّدين من حين لآخر. وعليها أيضًا أن تفرض تسجيل الدخول متعدد العوامل على «أي فرد يصل إلى أي نظام معلومات»، ما لم يوافق مسؤول الأمن لديها كتابةً على ضوابط مكافئة بقدر معقول أو أكثر أمانًا. واسأل مستشارك القانوني أيّ هذه القواعد ينطبق عليك قبل أن يحصل أي شخص من خارج الشركة على وصول.

كيف يحصل المهندسون الخارجيون على الوصول دون إخراج البيانات؟

امنحهم الوصول كما تمنحه لموظفيك، لكن بقيود أشد:

• حساب باسم كل شخص، يُنشأ في أنظمتك أنت، مع تسجيل دخول متعدد العوامل. فمع حساب دخول مشترك، لا تستطيع السجلات أن تُظهر أي شخص فتح أي مستند
• مكان عمل واحد: سطح مكتب افتراضي، أي حاسوب على خوادمك لا يرى منه المهندس إلا شاشته. ويصلح أيضًا حاسوب محمول تديره شركتك إذا كان لا يفتح المستندات إلا من خلال سطح المكتب هذا. وامنع نسخ الملفات والنصوص إلى أجهزة أخرى
• صلاحيات وصول بحسب الدور، على أن يتطلب الوصول إلى المستندات الحقيقية موافقة منفصلة محددة بتاريخ انتهاء
• وصول إلى الإنترنت من أجهزة العمل يقتصر على ما يحتاجه العمل، كي لا يمكن لصق مستند في موقع ويب عام أو في أداة محادثة عبر الإنترنت
• سجلات تسجيل الدخول والوصول إلى الملفات يحتفظ بها فريق الأمن لديك، بحيث لا تستطيع الشركة تعديلها

قبل أن يبدأ أول مهندس عمله، كلّف شخصًا من جانبك بمحاولة إخراج مستند من جهاز العمل بكل طريقة تخطر له. ثم أغلق كل طريق نجح، وكرّر الاختبار بعد كل تغيير في الإعداد.

على ماذا يبني المهندسون الخارجيون عملهم قبل أن يروا المستندات الحقيقية؟

جزء كبير من العمل لا يحتاج إلى مستندات حقيقية. فمعظم الكود، من قراءة الملفات الواردة إلى الشاشة التي يتحقق فيها المراجعون من الإجابات، يمكن بناؤه على عيّنات معتمدة. والعيّنات الجيدة مستندات منشورة من النوع نفسه، ومستندات مصطنعة تُولَّد على خوادمك من قوالبك أنت.

وتلزم المستندات الحقيقية لمهمتين. الأولى مجموعة القبول: مستندات حقيقية موسومة بالإجابات الصحيحة، يُقيَّم النظام على أساسها قبل كل إصدار. والثانية ضبط النظام على الحالات التي لا تغطيها العيّنات. وكلتاهما تجري على خوادمك، على أيدي أشخاص مأذون لهم برؤية المستندات الحقيقية.

حذف الأسماء لا يجعل المستند مجهول الهوية دائمًا، لأن رقم حساب أو تاريخًا مع مبلغ قد يدلّ مع ذلك على شخص بعينه. وتنص الحيثية 26 من GDPR على أن البيانات المُعالَجة بالأسماء المستعارة (pseudonymised)، أي التي تُستبدل فيها الأسماء لكن معلومات إضافية قد تظل تربطها بشخص ما، تُعدّ بيانات شخصية. لذا أبقِ هذه العيّنات على خوادمك إلى أن يؤكد مسؤول حماية البيانات لديك أنها مجهولة الهوية.

أين ينتهي المطاف بنسخ مستنداتنا خلال المشروع؟

النظام العامل يصنع نسخه الخاصة، في سجلات التشغيل وفي فهرس البحث، والمقالة عن المشاريع التجريبية للذكاء الاصطناعي، المشار إليها أعلاه، تعدّدها. أما النسخ التي يصنعها الأشخاص أثناء البناء فيسهل أن تفوتك:

• عيّنة محفوظة على الحاسوب المحمول لأحد المهندسين لاختبار موجّه دون اتصال بالإنترنت
• لقطات شاشة ومقاطع ملصوقة في أداة تتبّع المهام لدى الشركة أو في محادثاتها أو بريدها الإلكتروني، تبقى في أنظمة الشركة ونسخها الاحتياطية
• نص ملصوق في مساعد برمجة بالذكاء الاصطناعي أو في أداة محادثة، وقد ترسله الأداة إلى مزوّدها
• نسخة اختبارية من النظام في الحساب السحابي الخاص بالشركة، محمّلة ببياناتك توفيرًا للوقت
• ملف مُصدَّر أُعدّ لعرض توضيحي أمام مديريك، ثم أُعيد توجيهه

عامل فهرس البحث معاملة المستندات نفسها. فهو يخزّن كل مقطع في صورة تضمين (embedding)، أي قائمة من الأرقام تلتقط معناه، وفي كثير من الأنظمة يُحفظ نص المقطع إلى جانبه. وتُظهر الأبحاث أن النص يمكن إعادة بنائه من الأرقام وحدها.

ففي مؤتمر EMNLP عام 2023، أعاد Morris وزملاؤه بناء 92% من مقاطع طولها 32 token حرفيًا (والـ token كلمة أو جزء من كلمة). وقد انطلقوا من تضمينات أنتجها نموذج مفتوح واحد، وكان بوسعهم توجيه الاستعلامات إلى ذلك النموذج مرارًا. وكانت نسبة الاستعادة الحرفية أقل مع نموذج تجاري ومع المقاطع الأطول. واستعادت الطريقة نفسها 89% من الأسماء الكاملة في مجموعة من الملاحظات السريرية.

ثبّت كتابةً أن مستنداتك وكل ما يُشتق منها، مثل فهرس البحث أو مجموعة القبول، تبقى على أنظمتك.

ما الأدوات التي يجوز للمهندسين الخارجيين استخدامها؟

على الأجهزة التي تستطيع الوصول إلى مستنداتك، لا تُستخدم إلا الأدوات الواردة في قائمة قصيرة تتفق عليها مع الشركة. ولإعداد القائمة، اسأل عن مساعدي البرمجة بالذكاء الاصطناعي والأدوات عبر الإنترنت التي يستخدمها مهندسوها كل يوم. واسأل عن كل منها ما إذا كان يرسل الكود الذي يراه، أو النص الملصوق فيه، إلى مزوّد خارجي.

وإذا أراد الفريق مساعد برمجة بالذكاء الاصطناعي، فاربطه بنموذج داخل محيطك، أي الشبكة والأنظمة التي تتحكم بها شركتك. وإلا فلا تثبّته إلا على أجهزة لا تُفتح عليها المستندات أبدًا. وتُدرج القائمة في العقد، وإضافة أي أداة تتطلب موافقتك.

ما الذي ينبغي أن ينص عليه العقد مع الشركة؟

بالنسبة إلى البيانات الشخصية الخاضعة لقواعد الاتحاد الأوروبي، تحدّد المادة 28 من GDPR ما يجب أن يتضمنه العقد. فمن بين أمور أخرى، لا تتصرف الشركة إلا بناءً على تعليماتك الموثّقة، ويلتزم كل من يملك الوصول بالحفاظ على سرية البيانات. وتتخذ الشركة التدابير الأمنية التي تشترطها المادة 32، وتتيح لك إجراء عمليات التدقيق، ولا تستعين بأي معالج آخر دون إذن كتابي مسبق منك. وعند انتهاء الخدمة، تحذف الشركة البيانات أو تعيدها إليك، بحسب اختيارك، وتحذف النسخ الموجودة، ما لم يُلزمها قانون الاتحاد الأوروبي أو قانون الدولة العضو بالاحتفاظ بها.

وتحتاج مشاريع كهذه إلى بضعة شروط إضافية:

• اسم كل من يملك الوصول ودوره، والبلد الذي يعمل منه كل شخص
• إشعار خلال مهلة تحددها أنت، كلما انضم أحد إلى المشروع أو غادره
• لا متعاقدين من الباطن دون موافقتك الكتابية، حتى في المستندات الخالية من البيانات الشخصية
• تأكيد موقَّع في النهاية بأنه لم تبقَ أي نسخ، يشمل الحواسيب المحمولة والحسابات والنسخ الاحتياطية

هذه ليست استشارة قانونية، ومستشارك القانوني هو من يصوغ الشروط وفق الولاية القضائية التي تخضع لها.

ماذا يحدث حين يغادر أحدٌ المشروع، أو حين ينتهي المشروع؟

ينبغي أن ينتهي الوصول في اليوم الذي ينتهي فيه العمل. وتتناول وكالة المعايير الأمريكية NIST العاملين من خارج المؤسسة، ومنهم العاملون لدى الشركات التي تطوّر الأنظمة، في الضابط PS-7 من كتالوج ضوابط الأمن لديها، SP 800-53. ويطلب هذا الضابط أن تُلزم الشركة بإبلاغك، خلال مهلة تحددها، حين ينتقل أي شخص يحمل بيانات دخول أو صلاحيات وصول إلى أنظمتك إلى عمل آخر أو يغادر.

في اليوم الأخير، يعطّل فريقك الحسابات وأسطح المكتب الافتراضية ويستعيد أي حواسيب محمولة مُدارة. وغيّر في اليوم نفسه أي كلمات مرور ومفاتيح كان المهندسون الخارجيون يعرفونها، واحصل من الشركة على تأكيد كتابي بالنسخ التي حذفتها وبأنه لم تبقَ أي نسخة. واتبع الخطوات نفسها حين يغادر مهندس واحد مشروعًا مستمرًا.

كيف نفحص شركة قبل أن تحصل على الوصول؟

اطلب من كل شركة في قائمتك المختصرة إجابات مكتوبة، وقارن بينها جنبًا إلى جنب:

• صِفوا كيف وصل مهندسوكم إلى مستندات عميل في مشروع سابق بقواعد مماثلة، دون ذكر اسم العميل
• اذكروا من سيملكون الوصول في مشروعنا، وأين يعملون، وهل هم موظفون لديكم أم متعاقدون من الباطن
• اذكروا على ماذا ستبنون العمل قبل أن تروا المستندات الحقيقية، ومن يوافق على العيّنات
• أرونا تأكيد حذف وقّعتموه في نهاية مشروع سابق، بعد إزالة بيانات العميل منه

ما العلامات التحذيرية في خطة الشركة أو عقدها؟

• تطلب الشركة تصدير بياناتك إلى سحابتها الخاصة «للبدء بسرعة أكبر»
• سيتشارك المهندسون حساب دخول واحدًا، أو لا تستطيع الشركة أن تحدد من سيملك الوصول
• تنص الخطة على أن يختبر المهندسون الموجّهات بمستندات حقيقية على الحواسيب المحمولة الخاصة بالشركة
• العقد لا يذكر شيئًا عن المتعاقدين من الباطن، أو عن مصير النسخ في النهاية

أين موقع amBrain من ذلك؟

مشروع النماذج اللغوية الوحيد الذي تصفه amBrain علنًا هو التالي: «أوصلنا تكاملًا مع LLM إلى الإنتاج داخل محيط FinTech لدى أحد العملاء: استخراج إشعارات غير مهيكلة من الوسطاء ومنصات التداول وتطبيعها — إجراءات الشركات، وتغييرات الأدوات المالية والهامش — إلى سجلات مهيكلة يستهلكها نظام التداول».

هذه المقالة ليست دراسة حالة. ولا يُذكر اسم العميل. ولا تدّعي المقالة أن مهندسي amBrain عملوا داخل أنظمة ذلك العميل، ولا أن المشروع استخدم أيًّا من الترتيبات الموصوفة أعلاه. ولا تقدّم أسعارًا ولا جداول زمنية.

تبني amBrain البرمجيات منذ عام 2019. أما في الملكية فسطرها هو: «يحتفظ العميل بالملكية الكاملة للمنتج وللكود، باستثناء مكوّناتنا القابلة لإعادة الاستخدام». اطلب من amBrain قائمة هذه المكوّنات بالأسماء قبل أن توقّع، كما تطلبها من أي شركة أخرى.

قبل أن تستعين بفريق خارجي لبناء نظام ذكاء اصطناعي يعمل على مستندات مقيّدة، اطرح الأسئلة أعلاه على كل شركة في قائمتك.

أسئلة شائعة

• هل يستطيع المهندسون الخارجيون العمل من مكاتب شركتهم؟ نعم، إذا كانوا لا يصلون إلى أنظمتك إلا عبر سطح المكتب الافتراضي أو الحاسوب المحمول المُدار، ولا يحتفظون بأي شيء على حواسيبهم الخاصة. وإذا كان مقر الشركة خارج المنطقة الاقتصادية الأوروبية، فإن هذا الوصول يُعدّ نقلًا للبيانات وفق قواعد الاتحاد الأوروبي، كما ورد أعلاه
• هل يضيف هذا الترتيب عملًا قبل بدء المشروع؟ نعم. فالحسابات وأجهزة العمل والموافقات يجب أن تكون جاهزة قبل أن يبدأ أول مهندس، لذا اسأل الشركة مبكرًا عمّا تحتاجه من فريق تقنية المعلومات لديك
• هل تكفي اتفاقية عدم الإفصاح (NDA)؟ لا. فاتفاقية NDA المعتادة تغطي السرية، وكثير منها يشترط أيضًا إعادة المستندات أو إتلافها في النهاية، وإن كان بعضها يسمح للشركة بإبقاء نسخ منها في أنظمة النسخ الاحتياطي لديها. لكنها لا تنص على حسابات بأسماء أصحابها ولا على أجهزة عمل ولا على قواعد للمتعاقدين من الباطن. وبالنسبة إلى البيانات الشخصية الخاضعة لقواعد الاتحاد الأوروبي، تطلب المادة 28 أيضًا شروطًا تخلو منها اتفاقية NDA عادةً