هل الذكاء الاصطناعي آمن على الخصوصية؟
من الحقائق الصعبة للابتكار: مع تقدم التكنولوجيا، تتزايد مخاطر استخدامها، فهل الذكاء الاصطناعي آمن على الخصوصية؟
فعلى سبيل المثال، تزيد الأدوات التي تُحسّن جمع البيانات وتحليلها من احتمالية ظهور البيانات الشخصية والمعلومات الحساسة في أماكن غير مخصصة لها.
ويبرز هذا الخطر تحديدًا، وهو خطر انتهاك الخصوصية، بشكل خاص في عصر الذكاء الاصطناعي، حيث تجمع المعلومات الحساسة وتُستخدم لإنشاء أنظمة الذكاء الاصطناعي والتعلم الآلي وتطويرها.
ومع تسارع صانعي السياسات لمعالجة هذه المسألة من خلال وضع لوائح لحماية الخصوصية المتعلقة باستخدام الذكاء الاصطناعي، فإنهم يخلقون تحديات جديدة تتعلق بالامتثال للشركات التي تستخدم تقنيات الذكاء الاصطناعي في اتخاذ القرارات.
وبغض النظر عن مخاوف الخصوصية والامتثال، تواصل الشركات استخدام نماذج الذكاء الاصطناعي لتعزيز الإنتاجية وتحقيق قيمة مضافة.
دعونا نلقي نظرة فاحصة على مخاطر الخصوصية المتعلقة بالذكاء الاصطناعي والضمانات التي تؤثر على المجتمع والتجارة اليوم.
ما هي خصوصية الذكاء الاصطناعي؟
خصوصية الذكاء الاصطناعي هي ممارسة حماية المعلومات الشخصية أو الحساسة التي يجمعها الذكاء الاصطناعي أو يستخدمها أو يشاركها أو يخزنها.
ترتبط خصوصية الذكاء الاصطناعي ارتباطًا وثيقًا بخصوصية البيانات. خصوصية البيانات، والمعروفة أيضًا بخصوصية المعلومات، هي مبدأ يمنح الفرد حق التحكم في بياناته الشخصية.
يشمل هذا التحكم القدرة على تحديد كيفية جمع المؤسسات لبياناتها وتخزينها واستخدامها. لكن مفهوم خصوصية البيانات أقدم من الذكاء الاصطناعي، وقد تطورت نظرة الناس إليها مع ظهور الذكاء الاصطناعي.
فهم مخاطر خصوصية الذكاء الاصطناعي
غالبًا ما تعزى مخاوف خصوصية الذكاء الاصطناعي إلى قضايا تتعلق بجمع البيانات، والأمن السيبراني، وتصميم النماذج، والحوكمة. تشمل هذه المخاطر ما يلي:
- جمع البيانات الحساسة
- جمع البيانات دون موافقة
- استخدام البيانات دون إذن
- المراقبة والتحيز غير المقيد
- تسريب البيانات
- استخراج البيانات
سنقوم تالياً بشرح هذه المخاطر.
جمع البيانات الحساسة
يعدّ حجم المعلومات الهائل الذي يتمّ استخدامه أحد الأسباب التي تجعل الذكاء الاصطناعي يُشكّل خطرًا أكبر على خصوصية البيانات مقارنةً بالتطورات التكنولوجية السابقة.
إذ تضمّن بيانات التدريب بشكل روتيني تيرابايتات أو بيتابايتات من النصوص والصور والفيديوهات، ولا بدّ أن يكون بعضها حساسًا:
- معلومات الرعاية الصحية
- البيانات الشخصية من مواقع التواصل الاجتماعي
- بيانات التمويل الشخصي
- البيانات البيومترية المستخدمة في التعرّف على الوجوه، وغيرها.
ومع تزايد جمع البيانات الحساسة وتخزينها ونقلها أكثر من أي وقت مضى، تزداد احتمالية كشف بعضها أو استخدامها بطرق تنتهك حقوق الخصوصية.
إقرأ أيضاً… أفضل طرق حماية البيانات من السرقة وهجمات المخترقين.
جمع البيانات دون موافقة
قد ينشأ جدلٌ عند الحصول على البيانات لتطوير الذكاء الاصطناعي دون موافقة صريحة أو علم الأشخاص الذين تجمع منهم.
وفي حالة المواقع الإلكترونية والمنصات، يتوقع المستخدمون بشكل متزايد مزيدًا من الاستقلالية في إدارة بياناتهم ومزيدًا من الشفافية فيما يتعلق بجمعها.
برزت هذه التوقعات مؤخرًا، عندما واجه موقع لينكدإن للتواصل المهني ردود فعل سلبية بعد أن لاحظ بعض المستخدمين أنهم وافقوا تلقائيًا على استخدام بياناتهم لتدريب نماذج الذكاء الاصطناعي التوليدية.
استخدام البيانات دون إذن
حتى عند جمع البيانات بموافقة الأفراد، تظل مخاطر الخصوصية قائمة إذا استُخدمت البيانات لأغراض تتجاوز تلك المُفصح عنها في البداية.
كما قد نشهد إعادة استخدام بيانات مثل السيرة الذاتية أو الصورة التي شاركناها أو نشرناها لغرض معين لتدريب أنظمة الذكاء الاصطناعي، غالبًا دون علمنا أو موافقتنا.
على سبيل المثال، أفادت بعض التقارير في الولايات المتحدة أن مريضة سابقة خضعت لعملية جراحية اكتشفت أن صورًا متعلقة بعلاجها الطبي استُخدمت في مجموعة بيانات تدريب الذكاء الاصطناعي.
زعمت المريضة أنها وقّعت على نموذج موافقة يسمح لطبيبها بالتقاط الصور، ولكن ليس لإدراجها في مجموعة البيانات.
المراقبة غير الخاضعة للرقابة والتحيز
ظهرت مخاوف الخصوصية المتعلقة بالمراقبة واسعة النطاق وغير الخاضعة للرقابة – سواء من خلال كاميرات المراقبة في الشوارع العامة أو ملفات تعريف الارتباط للتتبع على أجهزة الكمبيوتر الشخصية – قبل انتشار الذكاء الاصطناعي بفترة طويلة.
لكن الذكاء الاصطناعي قد يفاقم هذه المخاوف المتعلقة بالخصوصية، لأن نماذجه تستخدم لتحليل بيانات المراقبة. أحيانًا، قد تكون نتائج هذا التحليل مضرة، خاصةً عندما تُظهر تحيزًا.
في مجال إنفاذ القانون، على سبيل المثال، ربط عدد من حالات الاعتقال الخاطئ لأشخاص من ذوي البشرة الملونة باتخاذ القرارات بواسطة الذكاء الاصطناعي.
تهريب البيانات
تحتوي نماذج الذكاء الاصطناعي على كم هائل من البيانات الحساسة التي قد تشكل هدفًا لا يُقاوم للمهاجمين، تصبح هذه البيانات هدفًا رئيسيًا يسعى أحدهم لاستهدافه.
يستطيع المخترقون تنفيذ عمليات تسريب البيانات (سرقة البيانات) من تطبيقات الذكاء الاصطناعي عبر استراتيجيات مختلفة.
على سبيل المثال، في هجمات حقن البيانات، يخفي المخترقون مدخلات خبيثة على أنها مدخلات شرعية، متلاعبين بأنظمة الذكاء الاصطناعي التوليدية لكشف بيانات حساسة.
على سبيل المثال، قد يخدع مُخترق يستخدم المدخل الصحيح مساعدًا افتراضيًا يعمل بنظام إدارة التعلم الآلي (LLM) لإرسال مستندات خاصة.
تسريب البيانات
يعرَّف تسريب البيانات بأنه الكشف غير المقصود عن بيانات حساسة، وقد أثبتت بعض نماذج الذكاء الاصطناعي قابليتها لمثل هذه الاختراقات.
في إحدى الحالات التي تصدرت عناوين الأخبار، كشف نموذج ChatGPT، وهو نموذج لغوي ضخم من OpenAI، لبعض المستخدمين عن عناوين سجلات محادثات مستخدمين آخرين.
وتوجد مخاطر مماثلة حتى على نماذج الذكاء الاصطناعي الصغيرة والخاصة. على سبيل المثال، لنفترض شركة رعاية صحية تنشئ تطبيقًا تشخيصيًا داخليًا يعمل بالذكاء الاصطناعي ويعتمد على بيانات عملائها.
قد يسرِّب هذا التطبيق، دون قصد، معلومات العملاء الخاصة إلى عملاء آخرين يستخدمون خاصية معينة. حتى مشاركة البيانات غير المقصودة هذه قد تؤدي إلى انتهاكات خطيرة للخصوصية.
إقرأ أيضاً… الذكاء الاصطناعي في الأمن السيبراني: مستقبل القرصنة والاختراق.
تتبع قوانين حماية الخصوصية
تعود جهود واضعي السياسات لمنع التطورات التكنولوجية من المساس بخصوصية الأفراد إلى سبعينيات القرن الماضي على الأقل.
ومع ذلك، أدى النمو السريع في جمع البيانات التجارية ونشر الذكاء الاصطناعي إلى ظهور حاجة ملحة جديدة لسنّ قوانين لحماية خصوصية البيانات.
تشمل هذه القوانين:
اللائحة العامة لحماية البيانات (GDPR) الصادرة عن الاتحاد الأوروبي.
تضع اللائحة العامة لحماية البيانات (GDPR) عدة مبادئ يجب على المتحكمين والمعالجين اتباعها عند التعامل مع البيانات الشخصية. بموجب مبدأ تحديد الغرض، يجب أن يكون لدى الشركات غرض محدد وقانوني لأي بيانات تجمعها.
يجب عليها إبلاغ المستخدمين بهذا الغرض، وجمع الحد الأدنى من البيانات اللازمة لتحقيقه فقط.
كما يجب على الشركات استخدام البيانات بشكل عادل. يجب عليها إبقاء المستخدمين على اطلاع دائم بمعالجة بياناتهم الشخصية، والالتزام بقواعد حماية البيانات.
بموجب مبدأ تحديد مدة التخزين، يجب على الشركة الاحتفاظ بالبيانات الشخصية فقط حتى يتم تحقيق الغرض منها. يجب حذف البيانات بمجرد انتفاء الحاجة إليها.
قانون الاتحاد الأوروبي للذكاء الاصطناعي
يعتبر هذا القانون أول إطار تنظيمي شامل للذكاء الاصطناعي في العالم، إذ يحظر بعض استخداماته بشكل قاطع، ويفرض متطلبات صارمة للحوكمة وإدارة المخاطر والشفافية على استخدامات أخرى.
على الرغم من أن قانون الاتحاد الأوروبي للذكاء الاصطناعي لا يتضمن ممارسات محظورة بشكل صريح فيما يتعلق بخصوصية الذكاء الاصطناعي، إلا أنه يفرض قيودًا على استخدام البيانات.
تشمل ممارسات الذكاء الاصطناعي المحظورة ما يلي:
- الاستخراج غير الموجه لصور الوجوه من الإنترنت أو كاميرات المراقبة لإنشاء قواعد بيانات للتعرف على الوجوه؛ و
- استخدام جهات إنفاذ القانون لأنظمة تحديد الهوية البيومترية عن بعد في الوقت الفعلي في الأماكن العامة (إلا في حالات استثنائية، ويتطلب الحصول على ترخيص مسبق من جهة قضائية أو إدارية مستقلة).
يجب أن تمتثل أنظمة الذكاء الاصطناعي عالية المخاطر لمتطلبات محددة، مثل تبني ممارسات صارمة لحوكمة البيانات لضمان استيفاء بيانات التدريب والتحقق والاختبار لمعايير جودة محددة.
لوائح الخصوصية الأمريكية
دخلت قوانين خصوصية البيانات حيز التنفيذ في العديد من الولايات القضائية الأمريكية في السنوات الأخيرة. ومن الأمثلة على ذلك قانون كاليفورنيا لحماية خصوصية المستهلك وقانون تكساس لحماية خصوصية البيانات وأمنها.
في مارس/آذار 2024، سنّت ولاية يوتا قانون الذكاء الاصطناعي والسياسات، الذي يعدّ أول قانون ولاية رئيسي يُنظّم استخدام الذكاء الاصطناعي بشكلٍ مُحدد.
على المستوى الفيدرالي، لم تصدر الحكومة الأمريكية بعدُ قوانين جديدة على مستوى البلاد بشأن الذكاء الاصطناعي وحماية البيانات. مع ذلك، في عام 2022، أصدر مكتب سياسات العلوم والتكنولوجيا التابع للبيت الأبيض “خطة عمل لحقوق الذكاء الاصطناعي”.
يحدّد هذا الإطار غير المُلزم خمسة مبادئ لتوجيه تطوير الذكاء الاصطناعي، بما في ذلك قسم مخصّص لحماية البيانات يشجّع مختصّي الذكاء الاصطناعي على الحصول على موافقة الأفراد على استخدام بياناتهم.
إقرأ أيضاً… أفضل طرق حماية الخصوصية على الإنترنت.
التدابير المؤقتة الصينية لإدارة خدمات الذكاء الاصطناعي التوليدي
تعدّ الصين من أوائل الدول التي سنّت لوائح تنظيمية للذكاء الاصطناعي. في عام 2023، أصدرت الصين تدابيرها المؤقتة لإدارة خدمات الذكاء الاصطناعي التوليدي.
ينص القانون على أن توفير واستخدام خدمات الذكاء الاصطناعي التوليدي يجب أن “يحترم الحقوق والمصالح المشروعة للآخرين”، ويشترط ألا “يعرض الصحة البدنية والعقلية للآخرين للخطر، وألا ينتهك حقوقهم في الصورة الشخصية، وحقوقهم في السمعة، وحقوقهم في الشرف، وحقوقهم في الخصوصية، وحقوقهم في المعلومات الشخصية”.
أفضل الممارسات لحماية الخصوصية مع الذكاء الاصطناعي
يمكن للمؤسسات وضع مناهج لحماية خصوصية الذكاء الاصطناعي للمساعدة في الامتثال للوائح وبناء الثقة مع أصحاب المصلحة.
تتضمن التوصيات ما يلي:
إجراء تقييمات المخاطر
ينبغي تقييم مخاطر الخصوصية ومعالجتها طوال دورة تطوير نظام الذكاء الاصطناعي. قد تشمل هذه المخاطر احتمال إلحاق الضرر بغير مستخدمي النظام، ولكن يمكن استنتاج معلوماتهم الشخصية من خلال تحليل البيانات المتقدم.
الحد من جمع البيانات
ينبغي للمؤسسات الحد من جمع بيانات التدريب إلى ما يمكن جمعه بشكل قانوني واستخدامه “بما يتوافق مع توقعات الأشخاص الذين جمعت بياناتهم”. إضافةً إلى تقليل البيانات، ينبغي للشركات أيضًا وضع جداول زمنية للاحتفاظ بها، بهدف حذفها في أسرع وقت ممكن.
طلب الموافقة الصريحة
ينبغي للمؤسسات تزويد الجمهور بآليات “للموافقة والوصول والتحكم” في بياناتهم. يجب إعادة الحصول على الموافقة إذا تغيرت حالة الاستخدام التي استدعت جمع البيانات.
اتباع أفضل ممارسات الأمان
ينبغي للمؤسسات التي تستخدم الذكاء الاصطناعي اتباع أفضل ممارسات الأمان لتجنب تسريب البيانات والبيانات الوصفية. قد تشمل هذه الممارسات استخدام التشفير وإخفاء الهوية وآليات التحكم في الوصول.
توفير حماية إضافية للبيانات من المجالات الحساسة
ينبغي إخضاع البيانات من مجالات معينة لحماية إضافية، واستخدامها فقط في “سياقات محددة بدقة”. تشمل هذه “المجالات الحساسة” الصحة، والتوظيف، والتعليم، والعدالة الجنائية، والتمويل الشخصي.
كما تعتبر البيانات التي يتم إنشاؤها بواسطة الأطفال أو عنهم حساسة، حتى لو لم تندرج ضمن أي من المجالات المذكورة.
الإبلاغ عن جمع البيانات وتخزينها
ينبغي على المؤسسات الاستجابة لطلبات الأفراد لمعرفة أي من بياناتهم تستخدم في نظام الذكاء الاصطناعي. كما ينبغي على المؤسسات تقديم تقارير موجزة عامة للجمهور بشكل استباقي حول كيفية استخدام بيانات الأفراد، والوصول إليها، وتخزينها.
وفيما يتعلق بالبيانات من المجالات الحساسة، ينبغي على المؤسسات أيضًا الإبلاغ عن أي ثغرات أو اختراقات أمنية أدت إلى تسريب البيانات.
المصادر والمراجع
[1] Artificial Intelligence and Privacy – Issues and Challenges – ovic.vic.gov.au
[2] AI Data Privacy: A Guide for Modern Industries – trustarc.com
[3] AI Data Privacy: How Emerging Tech Handles Your Data – rev.com
