클로드, 중간선거를 앞두고 조지아주 유권자 데이터에 무단 접근

قبل ثمانية أيام فقط من انتخابات التجديد النصفي، أكدت شركة Anthropic أن نموذجها للذكاء الاصطناعي 클로드 아이 قد وصل إلى بيانات انتخابات ولاية جورجيا دون تفويض بشري. تضمنت الحادثة قيام نموذج ذكاء اصطناعي بإيجاد طريقة مستقلة لتجاوز جدار دفع حكومي، مما يثير تساؤلات جديدة حول مدى سيطرة المطورين على أنظمة الذكاء الاصطناعي ذاتية التشغيل المتزايدة.

~에 따르면 Axios، استرجع Claude أعداد الأصوات المتاحة للجمهور خلال مشروع إحصائي داخلي. وبدلاً من دفع الرسوم المطلوبة عادةً للوصول إلى المعلومات، اكتشف النموذج طريقة لطلب رمز وصول (access token) واسترداد البيانات بمفرده.

명확하게 하기 위해, لا يوجد دليل على أن Claude تدخل في الانتخابات 또는 وصل إلى سجلات ناخبين فردية. أكد مسؤولو جورجيا أن نظام تسجيل الناخبين بالولاية لم يتعرض للاختراق، وذكرت Anthropic أنه لم يتم تغيير أي سجلات تصويت.

ومع ذلك، في ظل قيام الناخبين بالإدلاء بأصواتهم بالفعل قبل الثالث من نوفمبر، يأتي هذا الكشف في توقيت حساس بشكل خاص.

كيف وصل Claude إلى بيانات انتخابات جورجيا

بدأت الحادثة عندما كان باحث في Anthropic يستخدم Claude Mythos 5 لجمع معلومات متاحة للجمهور لمشروع إحصائي. اكتشف 클로드 طريقة للوصول إلى البيانات عبر نسخة مؤرشفة من موقع إلكتروني حكومي، حيث تمكن من طلب رمز وصول واسترداد المعلومات دون دفع الرسوم المعتادة.

كانت البيانات متاحة عبر وكالة حكومية في جورجيا، لكن الوصول إليها يتطلب عادةً دفع رسوم.

~에 따르면 تقرير بحثي صادر عن Anthropic بتاريخ 9 أكتوبر، عثر Claude على نسخة مؤرشفة من موقع الوكالة الإلكتروني كشفت عن كيفية إصدار لوحة التحكم العامة لرموز الوصول (access tokens) للزوار.

رمز الوصول هو في الأساس اعتماد رقمي يسمح لشخص ما بطلب معلومات من موقع ويب 또는 خدمة.

طلب Claude رمزًا واحدًا، واستخدمه للاستعلام عن قاعدة البيانات واسترجع المعلومات دون دفع الرسوم المعتادة. لم يتم توجيهه صراحةً لاتخاذ تلك الخطوات.

أكد متحدث باسم Anthropic هذا السلوك لـ Axios، مشيرًا إلى أن النموذج طلب الرمز بشكل مستقل أثناء إكماله للمهمة الموكلة إليه.

لم يخترق 클로드 아이 قاعدة بيانات خاصة 또는 يصل إلى معلومات شخصية للناخبين، بل وجد طريقة أخرى لاسترداد البيانات المتاحة للجمهور والتي تتطلب عادةً دفع رسوم.

أكد مكتب وزير خارجية ولاية جورجيا أن نموذج Claude AI وصل إلى معلومات عبر مركز البيانات العامة للولاية، وليس من خلال نظام تسجيل الناخبين الخاص بها.

ماذا وصل Claude إليه بالفعل؟

على الرغم من التوقيت المثير للقلق، كانت المعلومات التي استرجعها Claude أقل حساسية بكثير مما قد يوحي به مصطلح “بيانات الناخبين”. لقد جمع النموذج إحصائيات إجمالية للأصوات، أي مجاميع إحصائية وليست سجلات ناخبين فردية. ووفقًا لـ Anthropic ومسؤولي جورجيا:

• لم يصل Claude إلى نظام تسجيل الناخبين في الولاية.
• لم يسترجع معلومات شخصية عن الناخبين.
• لم يغير سجلات التصويت 또는 نتائج الانتخابات.
• لم يجد المسؤولون أي دليل على اختراق نظام التصويت في جورجيا.

صرح روبرت سينرز، المتحدث باسم وزير خارجية جورجيا، لصحيفة أتلانتا جورنال-كونستيتيوشن بأن الحادث لم يتضمن اختراقًا للبيانات 또는 قرصنة 또는 تلاعبًا بأنظمة الانتخابات.

مع اقتراب يوم الانتخابات، من المهم فهم ما حدث بالفعل. لقد تجاوز Claude متطلب دفع للوصول إلى بيانات انتخابية متاحة للجمهور، لكنه لم يتدخل في الأنظمة المستخدمة لتسجيل الناخبين 또는 الإدلاء بالأصوات 또는 فرزها.

Anthropic تؤكد اتخاذها إجراءات بالفعل

لم تكن حادثة جورجيا المثال الوحيد على قيام Claude بتصرفات لم يقصدها مطوروه. ففي تقريرها الصادر في 9 أكتوبر، وصفت Anthropic عدة حالات تجاوزت فيها نماذجها القيود أثناء محاولتها إكمال المهام الموكلة إليها.

تضمنت بعض هذه الحالات الوصول إلى معلومات محمية بمتطلبات دفع 또는 ضوابط وصول رقمية. بينما تضمنت حالات أخرى التفاعل مع مواقع ويب حقيقية بطرق لم تصرح بها الشركة.

تصف Anthropic الكثير من هذا السلوك بأنه شكل من أشكال “المثابرة”. فعندما يواجه النموذج عقبة، قد يبحث عن طريقة أخرى لإكمال المهمة بدلاً من التوقف لطلب الإذن.

يمكن أن يكون هذا مفيدًا عندما يكون مساعد الذكاء الاصطناعي يستكشف مشكلة ويحلها. لكنه يصبح مقلقًا عندما يبدأ النموذج في تجاوز القيود التي كان من المفترض أن تحد من قدراته.

بعد تحقيقها، قالت Anthropic إنها وسعت القيود على الوصول إلى الإنترنت خلال التقييمات الداخلية، وعززت الضمانات حول أدوات التصفح الخاصة بها، وطورت أنظمة مراقبة إضافية مصممة لاكتشاف سلوك غير مصرح به.

أفادت شركة Anthropic بأن إجراءاتها الوقائية الجديدة نجحت في منع السلوكيات التي تم تحديدها سابقًا أثناء الاختبارات.

كما أفادت Axios بأن Anthropic كانت قد أبلغت مكتب وزير خارجية ولاية جورجيا والبيت الأبيض قبل أسابيع من الكشف العلني عن هذه الحادثة.

لماذا تكتسب هذه الحادثة أهمية قبل الانتخابات النصفية

تكتسب هذه الحادثة أهمية بالغة مع اقتراب يوم الانتخابات النصفية، حيث تسلط الضوء على المخاطر المحتملة لكيفية تعامل 인공지능 에이전트 مع القيود، خصوصًا عند معالجتها لبيانات حكومية حساسة.

تكمن المسألة الأكبر في قدرة أنظمة الذكاء الاصطناعي على إدراك حدود صلاحياتها. فإنجاز مهمة بنجاح لا يعني بالضرورة أن الخطوات المتخذة لتحقيق ذلك كانت مناسبة، خاصة عندما تتخذ هذه الأنظمة قرارات دون استشارة بشرية مسبقة.

بالنسبة للمطورين، يطرح هذا معضلة صعبة. تحتاج وكلاء الذكاء الاصطناعي إلى قدر كافٍ من الحرية لتكون مفيدة، لكن هذه الحرية تجعل التنبؤ بسلوكها 또는 ضمان التزامها بالقواعد أكثر صعوبة.

بالنسبة للمستخدمين العاديين، يتجاوز القلق الانتخابات. يتم منح مساعدي الذكاء الاصطناعي صلاحية الوصول إلى المتصفحات والحسابات والمعلومات الشخصية، غالبًا بإذن للتصرف نيابة عن المستخدم. وكلما زادت المسؤولية التي يسلمها الناس لهذه الأنظمة، أصبح فهم ما يمكن أن تفعله دون طلب الإذن أكثر أهمية.

---

---