ChatGPT لديه مشكلة خصوصية كبيرة

 ChatGPT لديه مشكلة خصوصية كبيرة

 عندما أصدرت OpenAI GPT-3 في يوليو 2020 ، قدمت لمحة عن البيانات المستخدمة لتدريب نموذج اللغة الكبير. تم استخدام ملايين الصفحات التي تم كشطها من الويب ومنشورات Reddit والكتب وغير ذلك لإنشاء نظام النص التوليدي ، وفقًا لورقة فنية. تتضمن هذه البيانات بعض المعلومات الشخصية التي تشاركها عن نفسك عبر الإنترنت. تتسبب هذه البيانات الآن في وقوع OpenAI في مشكلة. في 31 مارس ، أصدر منظم البيانات الإيطالي قرارًا طارئًا مؤقتًا يطالب OpenAI بالتوقف عن استخدام المعلومات الشخصية لملايين الإيطاليين المضمنة في بيانات التدريب الخاصة بها. وفقًا للجهة التنظيمية ، Garante per la Protezione dei Dati Personali ، لا تملك OpenAI الحق القانوني في استخدام المعلومات الشخصية للأشخاص في ChatGPT. رداً على ذلك ، منعت شركة OpenAI الأشخاص في إيطاليا من الوصول إلى برنامج الدردشة الآلي الخاص بها بينما تقدم ردودًا على المسؤولين ، الذين يحققون بشكل أكبر.

 

هذا الإجراء هو الأول الذي يتم اتخاذه ضد ChatGPT من قبل منظم غربي ويسلط الضوء على توترات الخصوصية حول إنشاء نماذج عملاقة للذكاء الاصطناعي ، والتي غالبًا ما يتم تدريبها على مساحات شاسعة من بيانات الإنترنت. تمامًا كما اشتكى الفنانون وشركات الإعلام من أن مطوري الذكاء الاصطناعي المبدعين استخدموا أعمالهم دون إذن ، فإن منظم البيانات يقول الآن الشيء نفسه بالنسبة للمعلومات الشخصية للأشخاص. يمكن أن تتبع قرارات مماثلة في جميع أنحاء أوروبا. في الأيام التي تلت إعلان إيطاليا عن تحقيقها ، اتصل منظمو البيانات في فرنسا وألمانيا وأيرلندا بـ Garante لطلب مزيد من المعلومات حول النتائج التي توصل إليها. يقول توبياس جودين ، رئيس الشؤون الدولية في هيئة حماية البيانات النرويجية ، التي تراقب التطورات: "إذا كان نموذج العمل يهدف إلى التخلص من الإنترنت لأي شيء يمكن أن تجده ، فقد تكون هناك مشكلة مهمة حقًا هنا". يضيف جودين أنه إذا تم بناء نموذج على بيانات قد يتم جمعها بشكل غير قانوني ، فإنه يثير تساؤلات حول ما إذا كان يمكن لأي شخص استخدام الأدوات بشكل قانوني. وتأتي ضربة إيطاليا لـ OpenAI مع تزايد تدقيق نماذج الذكاء الاصطناعي الكبيرة بشكل مطرد. في 29 مارس ، دعا قادة التكنولوجيا إلى وقف تطوير أنظمة مثل ChatGPT ، خوفًا من تداعياتها المستقبلية. يقول جودين إن القرار الإيطالي يسلط الضوء على مخاوف أكثر إلحاحًا. يقول جودين: "بشكل أساسي ، نرى أن تطوير الذكاء الاصطناعي حتى الآن قد يكون له عيب هائل".

 

الوظيفة الايطالية

تحمي قواعد اللائحة العامة لحماية البيانات في أوروبا ، والتي تغطي طريقة جمع المؤسسات للبيانات الشخصية للأشخاص وتخزينها واستخدامها ، بيانات أكثر من 400 مليون شخص في جميع أنحاء القارة. يمكن أن تكون هذه البيانات الشخصية أي شيء من اسم الشخص إلى عنوان IP الخاص به - إذا كان من الممكن استخدامها لتحديد هوية شخص ما ، فيمكن اعتبارها معلومات شخصية. على عكس مجموعة قواعد الخصوصية على مستوى الولاية في الولايات المتحدة ، تسري إجراءات حماية اللائحة العامة لحماية البيانات إذا كانت معلومات الأشخاص متاحة مجانًا عبر الإنترنت. باختصار: فقط لأن معلومات شخص ما علنية لا يعني أنه يمكنك تفريغها وفعل أي شيء تريده بها. يعتقد Garante الإيطالي أن ChatGPT تواجه أربع مشاكل بموجب اللائحة العامة لحماية البيانات: لا تملك OpenAI ضوابط عمرية لمنع الأشخاص الذين تقل أعمارهم عن 13 عامًا من استخدام نظام إنشاء النصوص ؛ يمكن أن توفر معلومات غير دقيقة عن الأشخاص ؛ ولم يتم إخبار الأشخاص بأنه تم جمع بياناتهم. ولعل الأهم من ذلك ، أن حجته الرابعة تدعي أنه "لا يوجد أساس قانوني" لجمع المعلومات الشخصية للأشخاص في الكم الهائل من البيانات المستخدمة لتدريب ChatGPT. تقول ليليان إدواردز ، أستاذة القانون والابتكار والمجتمع بجامعة نيوكاسل في المملكة المتحدة: "لقد وصف الإيطاليون خدعتهم". "بدا واضحًا جدًا في الاتحاد الأوروبي أن هذا كان انتهاكًا لقانون حماية البيانات."

 

 

بشكل عام ، لكي تقوم شركة ما بجمع واستخدام معلومات الأشخاص بموجب اللائحة العامة لحماية البيانات (GDPR) ، يجب أن تعتمد على أحد التبريرات القانونية الستة ، بدءًا من إعطاء شخص إذنه إلى المعلومات المطلوبة كجزء من العقد. يقول إدواردز أنه في هذه الحالة ، هناك خياران أساسيان: الحصول على موافقة الناس - وهو ما لم تفعله شركة OpenAI - أو القول بأن لديها "مصالح مشروعة" لاستخدام بيانات الأشخاص ، وهو أمر "صعب جدًا" ، كما يقول إدواردز. أخبرت Garante WIRED أنها تعتقد أن هذا الدفاع "غير كافٍ". لا تذكر سياسة خصوصية OpenAI بشكل مباشر الأسباب القانونية لاستخدام المعلومات الشخصية للأشخاص في بيانات التدريب ولكنها تقول إنها تعتمد على "المصالح المشروعة" عندما "تطور" خدماتها. لم تستجب الشركة لطلب WIRED للتعليق. على عكس GPT-3 ، لم تنشر OpenAI أي تفاصيل عن بيانات التدريب التي دخلت إلى ChatGPT ، ويُعتقد أن GPT-4 أكبر عدة مرات. ومع ذلك ، تتضمن الورقة الفنية الخاصة بـ GPT-4 قسمًا عن الخصوصية ، والذي ينص على أن بيانات التدريب الخاصة بها قد تتضمن "المعلومات الشخصية المتاحة للجمهور" ، والتي تأتي من عدد من المصادر. تقول الورقة إن OpenAI تتخذ خطوات لحماية خصوصية الأشخاص ، بما في ذلك نماذج "الضبط الدقيق" لمنع الأشخاص من طلب المعلومات الشخصية وإزالة معلومات الأشخاص من بيانات التدريب "حيثما كان ذلك ممكنًا". "إن كيفية جمع البيانات بشكل قانوني لتدريب مجموعات البيانات لاستخدامها في كل شيء بدءًا من الخوارزميات العادية وحتى بعض الذكاء الاصطناعي المتطور حقًا هي قضية مهمة تحتاج إلى حل الآن ، حيث إننا نوعًا ما على نقطة التحول في هذا النوع من التكنولوجيا تقول جيسيكا لي ، الشريكة في مكتب المحاماة Loeb and Loeb.

 

 

من المحتمل أن يكون الإجراء الذي اتخذته الجهة المنظمة الإيطالية - التي تتولى أيضًا روبوت الدردشة Replika - أول حالة من بين العديد من الحالات التي تفحص ممارسات بيانات OpenAI. يتيح القانون العام لحماية البيانات (GDPR) للشركات التي لها قاعدة في أوروبا ترشيح دولة واحدة ستتعامل مع جميع شكاويها — تتعامل أيرلندا مع Google و Twitter و Meta ، على سبيل المثال. ومع ذلك ، لا تمتلك شركة OpenAI قاعدة في أوروبا ، مما يعني أنه بموجب اللائحة العامة لحماية البيانات ، يمكن لكل دولة رفع شكاوى ضدها.

 

 بيانات النموذج

 أوبن إيه آي ليست وحدها. يقول الخبراء إن العديد من القضايا التي أثارتها الجهة المنظمة الإيطالية من المرجح أن تقتصر على جوهر جميع عمليات تطوير التعلم الآلي وأنظمة الذكاء الاصطناعي التوليدية. يعمل الاتحاد الأوروبي على تطوير لوائح منظمة العفو الدولية ، ولكن حتى الآن لم يتم اتخاذ سوى القليل من الإجراءات نسبيًا ضد تطوير أنظمة التعلم الآلي عندما يتعلق الأمر بالخصوصية. تقول إليزابيث رينيريس ، كبيرة الباحثين في معهد أكسفورد للأخلاقيات في الذكاء الاصطناعي ومؤلفة ممارسات البيانات: "هناك هذا العفن في أسس اللبنات الأساسية لهذه التكنولوجيا - وأعتقد أنه سيكون من الصعب جدًا علاجه". وتشير إلى أن العديد من مجموعات البيانات المستخدمة لتدريب أنظمة التعلم الآلي كانت موجودة منذ سنوات ، ومن المحتمل أنه كان هناك القليل من اعتبارات الخصوصية عندما تم تجميعها معًا. يقول Renieris: "هناك هذه الطبقات وسلسلة التوريد المعقدة لكيفية وصول تلك البيانات في النهاية إلى شيء مثل GPT-4". "لم يكن هناك حقًا أي نوع من حماية البيانات حسب التصميم أو افتراضيًا." في عام 2022 ، اقترح منشئو قاعدة بيانات صور مستخدمة على نطاق واسع ، والتي ساعدت في تدريب نماذج الذكاء الاصطناعي لعقد من الزمان ، أن صور وجوه الأشخاص يجب أن تكون غير واضحة في مجموعة البيانات. في أوروبا وكاليفورنيا ، تمنح قواعد الخصوصية الأشخاص القدرة على طلب حذف هذه المعلومات أو تصحيحها إذا كانت غير دقيقة. لكن حذف شيء ما من نظام ذكاء اصطناعي غير دقيق أو لا يريده شخص ما قد لا يكون واضحًا - خاصةً إذا كانت أصول البيانات غير واضحة. يتساءل كل من Renieris و Edwards عما إذا كانت اللائحة العامة لحماية البيانات ستكون قادرة على فعل أي شيء حيال ذلك على المدى الطويل ، بما في ذلك دعم حقوق الأشخاص. يقول إدواردز من جامعة نيوكاسل: "لا يوجد دليل حول كيفية القيام بذلك باستخدام نماذج اللغة الكبيرة جدًا هذه". "ليس لديهم مؤونة لذلك." حتى الآن ، كان هناك مثال واحد على الأقل ذي صلة ، عندما أمرت لجنة التجارة الفيدرالية الأمريكية الشركة المعروفة سابقًا باسم Weight Watchers بحذف الخوارزميات التي تم إنشاؤها من البيانات التي لم يكن لديها إذن لاستخدامها. ولكن مع زيادة التدقيق ، يمكن أن تصبح مثل هذه الأوامر أكثر شيوعًا. يقول جودين ، من منظم البيانات النرويجي: "اعتمادًا على البنية التحتية التقنية ، من الواضح أنه قد يكون من الصعب مسح نموذجك بالكامل لجميع البيانات الشخصية التي تم استخدامها لتدريبه". "إذا تم تدريب النموذج بعد ذلك من خلال البيانات الشخصية التي تم جمعها بشكل غير قانوني ، فهذا يعني أنك ربما لن تتمكن من استخدام نموذجك بشكل أساسي."