مايكروسوفت تسترجع المخاوف المتعلقة بخصوصية الذكاء الاصطناعي والتي لم يتم استغلالها بواسطة برنامج Python البسيط

مع كون الذكاء الاصطناعي التوليدي متعدد الوسائط أحد أهم المواضيع في السنوات القليلة الماضية، كان من الطبيعي أن ترغب Microsoft في دمجه في أكبر عدد ممكن من الزوايا والزوايا على نظام Windows. ومع ذلك، بعد وقت قصير من إعلانها عن ميزة الاستدعاء لأنظمة Copilot+ في 20 مايو، أظهر نص بايثون بسيط تم نشره على GitHub أن Microsoft ارتكبت خطأً فادحًا للغاية: البيانات التي تخزنها ليست آمنة على الإطلاق.

بعض المعلومات الأساسية عن استدعاء Microsoft

تعد Microsoft Recall إحدى الميزات الموجودة في أجهزة الكمبيوتر الشخصية Copilot+ الجديدة للشركة والتي تأتي مع إصدار ARM متقدم من نظام التشغيل Windows 11. وقد تم تصميم الرقائق الموجودة في أجهزة الكمبيوتر لضخ أكبر عدد ممكن من العمليات بأقل مستوى طاقة ممكن، مما يجعلها قادرة على دمج الذكاء الاصطناعي في سير عمل المستخدم دون الحاجة إلى خوادم بعيدة للتعامل مع الطلبات.

من المفترض أن يضيف برنامج Recall إلى تجربة Windows عن طريق التقاط لقطات شاشة دورية لنظامك أثناء استخدامه، ثم معالجة جميع المعلومات من خلال نموذج AI لرؤية الكمبيوتر الذي يفسر العناصر الموجودة على شاشتك. يمكن استخدام هذا لاحقًا لمساعدتك في مراجعة جلستك ومساعدتك في مراجعة الأشياء التي قمت بها سابقًا في جلستك.

بشرط أن تتغير شاشتك باستمرار في أي وقت، سيقوم Recall بالتقاط لقطات شاشة كل خمس ثوانٍ وحفظها. وإلا فإنه ينتظر حدوث التغييرات.

ماذا حدث؟

في السابع من يونيو، نشر مستخدم يُدعى Alexander Hagenah (xaitax) على GitHub نصًا برمجيًا بلغة Python يسمى TotalRecall يمكن تشغيله محليًا والتدقيق في جميع البيانات التي كان من المفترض تخزينها بشكل آمن.

لقد ألقينا نظرة على البرنامج النصي نفسه، وفي 164 سطرًا فقط من التعليمات البرمجية، كل ما كان عليه فعله هو العثور على SQLite .ديسيبل الملف موجود في الموقع التالي على النظام الهدف:

C:\Users\[username]\AppData\Local\CoreAIPlatform.00\UKP\

بعد تحديد موقع الملف، يفتح البرنامج النصي ببساطة ويقرأه. هذا كل شيء. ليس هناك سحر القراصنة. يتم إنفاق معظم التعليمات البرمجية في تحديد مسارات تخزين البرنامج النصي والتحقق منها لاستخراج الملفات بشكل صحيح. لا يوجد أي استغلال هنا لأن جميع ملفات مخازن Recall متاحة للعلن وغير مشفرة.

اتضح أنه على الرغم من ترويج Microsoft لقسم كامل حول “الأمان المدمج” في نظرتها العامة حول خصوصية Recall، فإن كل ما يتطلبه الأمر لفتح قاعدة بيانات Recall هو الانتقال إلى مجلد وكتابة بعض أوامر SQL. يتم أيضًا تخزين جميع الصور في مجلد فرعي يسمى “ImageStore” في وضع العرض العادي.

سبب للقلق؟

إن احتمال وجود لقطات شاشة غير مشفرة للأشياء التي قمت بها – بما في ذلك كلمات المرور التي ربما تكون قد كتبتها بنص عادي – والمخزنة دون أي حماية في نظام الملفات الخاص بك يبدو أمرًا مخيفًا، ولكنه ليس كارثيًا كما قد يبدو.

المخاوف بشأن الخصوصية لا تزال قائمة. إن منح المستخدمين سهولة الوصول إلى ملفات Recall دون بعض العوائق يجعل من السهل جدًا على المهندسين الاجتماعيين المهرة إقناع الأشخاص الأقل خبرة في التكنولوجيا بضغط الملفات. CoreAIPlatform.00 مجلد في ملف ZIP دون تفكير ثانٍ وقم بتسليم كل تلك البيانات.

يمكن لبعض التطبيقات استخراج المعلومات بشكل ضار من نشاط المستخدم الأحداث باستخدام واجهة برمجة تطبيقات نظام الاستدعاء دون أي عواقب. قد يكون من الممكن أيضًا إجراء هذه الأنواع من التقاط البيانات دون امتيازات مرتفعة، مما يعني أنه لن يتم إخطار المستخدمين عند حدوث ذلك.

ومع ذلك، هناك جانب إيجابي هنا: الوصول إلى كل هذه البيانات عن بعد لا يزال صعبًا للغاية دون علم المستخدم أو موافقته. بالنسبة لجميع الأخطاء في هذا النظام، لا تزال بيانات الاستدعاء مخزنة محليًا على أجهزة Copilot+، والتي تأتي مع بعض الإعدادات الافتراضية الأكثر أمانًا لأي نظام يعمل بنظام Windows.

تستخدم جميع الأجهزة المتوافقة Windows Device Encryption أو BitLocker بشكل افتراضي، وتأتي مزودة بأمان تسجيل دخول محسّن من خلال أرقام التعريف الشخصية للجهاز والبيانات البيومترية. لكي نكون منصفين، لا يزال من السهل جدًا تجاوز هذا الأخير باستخدام بعض تقنيات إعادة تعيين كلمة المرور البسيطة التي نجحت لأكثر من عقد من الزمن.

لا يزال هذا لا يسمح لشركة Microsoft بالخروج من المأزق، ولكنه على الأقل يفسر سبب ثقة الشركة بأنها لن تكون أسوأ شيء في العالم توفير قاعدة بيانات SQLite غير مشفرة وتخزين جميع الصور التي التقطتها شركة Recall في مجلدات محلية. بدون تشفير إضافي.

كيف يمكن اصلاح هذا

إذا كنت تستخدم نظام Copilot+ وكانت لديك مخاوف بشأن تأثير الاستدعاء على أمان نظامك، فيمكنك تعطيل الاستدعاء بالانتقال إلى إعدادات القائمة والنقر من خلال الخصوصية والأمان -> الاستدعاء واللقطات وتعطيل حفظ اللقطات خيار. إذا لم تشاهد هذا الخيار، فمن المحتمل جدًا عدم وجود ميزة الاستدعاء على نظامك.

أما بالنسبة لما يجب أن تفعله مايكروسوفت، فيجب أن تكون هناك مساحة محمية بعيدًا عن الوصول عن طريق التطبيقات والبرامج النصية التي يتم تشغيلها محليًا. إذا كان بإمكان برنامج Python النصي البسيط استيعاب البيانات وفرزها في المجلدات التي ينشئها، فمن الممكن أيضًا لنفس البرنامج النصي تحميل كل هذه البيانات إلى مزرعة خوادم في مكان ما. يجب أن يتم حظر هذا على الأقل من خلال تحدي التحكم في وصول المستخدم، إذا لم يكن مشفرًا بالكامل في ثنائي ثنائي كبير الحجم، كما ينبغي أن يكون كل مكون مهم آخر في النظام.

حقوق الصورة: SDXL، جميع لقطات الشاشة بواسطة ميغيل ليفا جوميز

لقد كان ميغيل خبيرًا في نمو الأعمال والتكنولوجيا لأكثر من عقد من الزمان وقام بكتابة البرامج لفترة أطول. ومن قلعته الصغيرة في رومانيا، يقدم وجهات نظر باردة وتحليلية للأشياء التي تؤثر على عالم التكنولوجيا.