كيفية الغش في الذكاء الاصطناعي و ماذا يعني هذا

خارج النافذة 2022. تذهب في سيارة ذاتية القيادة كالعادة في المدينة. سيارة تقترب من التوقف الماضية التي قاد العديد من المرات لكن هذه المرة يتوقف أمامه. هذا التوقيع على وقف مثل الآخرين. ولكن السيارة هي مختلفة تماما. بضع دقائق في وقت سابق دون أن يخبر أحدا ، المهاجم عالقة على علامة صغيرة التوقيع محسوس العين البشرية ولكن الذي لا يمكن أن تفشل في ملاحظة التكنولوجيا. هذا هو صغير لاصق على علامة تحول التوقيع على وقف إلى شيء مختلف تماما من التوقيع على وقف.

كل هذا قد يبدو لا يصدق. لكن المتزايدة في مجال البحث يثبت أن الذكاء الاصطناعي يمكن خداع مثل هذا, إذا كنت ترى بعض التفاصيل الصغيرة, غير مرئية تماما على البشر. كما خوارزميات تعلم الآلة هي تظهر بشكل متزايد على طرقنا ، مواردنا المالية ، صحتنا نظام الكمبيوتر ويأمل العلماء إلى معرفة المزيد عن كيفية حمايتهم من هجمات مماثلة قبل شخص يحاول خداع لهم لريال مدريد.

"هذا هو مصدر قلق متزايد في مجال تعلم الآلة و منظمة العفو الدولية المجتمع, وخاصة لأن هذه تستخدم خوارزميات أكثر وأكثر," يقول دانيال العرق ، أستاذ مساعد علوم الحاسب والمعلومات في جامعة ولاية أوريغون. "إذا المزعج يمر أو منعت العديد من رسائل البريد الإلكتروني هذه ليست نهاية العالم. ولكن إذا كنت تعتمد على نظام الرؤية في السيارة ذاتية القيادة التي تحكي كيفية قيادة السيارة في أي شيء من دون ان تتحطم ، سوف تكون معدلات أعلى من ذلك بكثير."

بغض النظر سيارة ينهار أو للخطر ، فإنه سوف يضر خوارزميات تعلم الآلة التي "ترى". و هنا هو الجهاز الباندا يبدأ لتبدو مثل جيبون و حافلة المدرسة — مثل النعامة.

في تجربة واحدة ، علماء من فرنسا و سويسرا أظهرت كيف أن هذه الاضطرابات يمكن أن تجبر الكمبيوتر عن طريق الخطأ أخذ السنجاب الثعلب الرمادي ، وعاء القهوة لببغاء.

كيف يكون هذا ممكنا ؟ التفكير حول كيف يتعلم الطفل على التعرف على الأرقام. تبحث في الشخصيات واحدا تلو الآخر ، يبدأ الطفل لاحظت بعض الخصائص المشتركة: بعض قامة وأقل حجما, ستة و تسعة تحتوي على واحد حلقة كبيرة ، ثمانية اثنين. بمجرد رؤية أمثلة كافية ، يمكن التعرف بسرعة على الأرقام الجديدة في أربع ، الثمانيات أو ثلاثا — حتى إذا كان الخط أو الكتابة اليدوية فإنها لن تبدو بالضبط نفس أي أربع ، الثمانيات ، أو الثلاثات ، لديهم أي وقت مضى رأيت.

خوارزميات تعلم الآلة تعلم القراءة العالم من خلال مشابه إلى حد ما. العلماء تغذية الكمبيوتر مئات أو آلاف (عادة ما يكون علامة) أمثلة على ما كانوا يرغبون في الكشف على جهاز الكمبيوتر. عندما يكون الجهاز ينخل البيانات عدد إنه لا, انها ليست — أنها تبدأ إشعار الميزات التي تؤدي إلى إجابة. سرعان ما يمكن أن ننظر إلى الصورة ويقول: "إنها خمسة!" مع دقة عالية.

وهكذا الأطفال وأجهزة الكمبيوتر يمكن أن تعلم كيفية التعرف على عدد كبير من الكائنات ، من أرقام القطط من القوارب إلى فصل الإنسان الكيانات.

ولكن ، على عكس الطفل من الإنسان و الكمبيوتر لا تدفع الانتباه إلى التفاصيل عالية المستوى مثل فروي آذان القطط أو المميزة الزاوي شكل من أربعة. إنه لا يرى الصورة كاملة.

بدلا من ذلك ، يبدو في كل بكسل من الصورة و أسرع وسيلة لتبادل الأشياء. إذا كانت الغالبية العظمى من وحدات سوداء بكسل عند نقطة معينة و قليلة الأبيض بكسل في مواقع أخرى ، فإن الجهاز سوف تتعلم بسرعة لتحديد عدة بكسل.

نعود الآن إلى التوقيع على وقف. تكتم ضبط بكسل من الصورة — استدعاء خبراء هذا التدخل "الاضطرابات" — يمكنك خداع الكمبيوتر تجعلك تعتقد أن التوقيع على وقف هو ، في الواقع ، لا.

دراسات مماثلة أجريت في مختبر التطورية الذكاء الاصطناعي في جامعة وايومنغ جامعة كورنيل ، جعلت الكثير من الأوهام البصرية على الذكاء الاصطناعي. هذه مخدر الصور من أنماط مجردة و ألوان لا مثيل لها للناس ، ولكن سرعان ما يتعرف الكمبيوتر في شكل الثعابين أو البنادق. يتحدث عن كيفية منظمة العفو الدولية أن تنظر في شيء و لا نرى وجوه ، أو أن ترى بدلا من شيء آخر.

هذا الضعف هو السائد في جميع أنواع خوارزميات تعلم الآلة. "كنت أتوقع أن كل خوارزمية لديه ثغرة في درع" ، ويقول يفغيني vorobeichik ، أستاذ علوم الكمبيوتر في جامعة فاندربيلت. "نحن نعيش في عالم معقد جدا متعدد الأبعاد في العالم ، الخوارزميات ، بحكم طبيعتها ، تؤثر فقط جزء صغير منه".

Vorobeichik, للغاية "متأكدا" من أنه إذا هذه الثغرات موجودة, شخص ما سوف معرفة كيفية استخدامها. ربما شخص ما قامت به بالفعل.

النظر في مرشحات البريد المزعج الآلي برامج القضاء على أي حرج رسائل البريد الإلكتروني. الاطر قد تحاول الالتفاف على هذا الحاجز عن طريق تغيير هجاء الكلمات (بدلا من الفياجرا السادس@gra) أو عن طريق إضافة قائمة من "الكلمات الطيبة" التي توجد عادة في الرسائل العادية مثل "نعم" و "لي" و "سعيد". وفي الوقت نفسه ، الاطر يمكن محاولة إزالة الكلمات التي تظهر بشكل متكرر في الرسائل غير المرغوب فيها ، مثل "الجوال" أو "الفوز".

ماذا يمكن السير المحتالين في يوم واحد ؟ سيارة ذاتية القيادة ، خدع من قبل لاصق على التوقيع على وقف هو السيناريو الكلاسيكي الذي اخترع من قبل خبراء فيهذا المجال. بيانات إضافية يمكن أن تساعد في المواد الإباحية أن تنزلق من خلال آمنة المرشحات. والبعض الآخر قد حاول زيادة عدد الشيكات. يمكن للقراصنة قرص رمز من البرامج الضارة للتهرب من تطبيق القانون.

المخالفين قد فهم كيفية إنشاء تمرير البيانات, إذا كان يمكنك الحصول على نسخة من الجهاز خوارزمية التعلم التي تريد الغش. ولكن من خلال الحصول على الخوارزمية ، فإنه ليس من الضروري. يمكنك فقط كسرها مع القوة الغاشمة ، ورمي له قليلا إصدارات مختلفة من البريد الإلكتروني أو الصور حتى أنها تمر. مع مرور الوقت, يمكن أن تستخدم نموذج جديد تماما, والتي سوف تعرف أن تبحث عن الأخيار ، وماذا تفعل من أجل خداع لهم.

"الناس التعامل مع آلة نظم التعلم منذ تقديمها لأول مرة" ، وقال باتريك مكدانيل ، أستاذ علوم الكمبيوتر والهندسة في جامعة بنسلفانيا. "إذا كان الناس يستخدمون هذه الأساليب ، ونحن حتى لا نعرف عن ذلك".

هذه الأساليب يمكن أن تستفيد ليس فقط من الفضيحة — الناس يمكن الهروب من الأشعة السينية عيون التكنولوجيا الحديثة.

"إذا كنت نوع من المعارض السياسي في نظام قمعي و تريد أن تعقد الأحداث دون علم الأجهزة الأمنية ، قد تحتاج إلى تجنب التلقائي مراقبة التقنيات التي تعتمد على التعلم الآلي" ، ويقول العرق.

في واحد من المشاريع التي نشرت في تشرين الأول / أكتوبر باحثون من جامعة كارنيجي — ميلون خلق زوج من النظارات التي يمكن أن بمهارة تضليل نظام التعرف على الوجه ، مما تسبب في الكمبيوتر عن طريق الخطأ اتخاذ الممثلة ريس ويذرسبون عن راسل كرو. هذا يبدو سخيفا ولكن هذه التكنولوجيا يمكن أن تكون مفيدة لشخص ما الذي هو محاولة يائسة لتجنب الرقابة على من هم في السلطة.

ماذا تفعل مع كل هذا ؟ "الطريقة الوحيدة لتجنب ذلك هو خلق نموذج مثالي أن تكون دائما صحيحة" ، ويقول العرق. حتى لو تمكنا من إنشاء الذكاء الاصطناعي تفوق البشر في جميع النواحي ، العالم لا يزال قادرا على زلة خنزير في مكان غير متوقع.

خوارزميات تعلم الآلة هو عادة تقييمها وفقا دقتها. البرنامج الذي يعترف الكراسي في 99% من الحالات هو أفضل بوضوح من الشخص الذي يعترف 6 من 10 كراسي. لكن بعض الخبراء نقدم طريقة أخرى لتقييم قدرة الخوارزمية على التعامل مع الهجوم أكثر عنفا أفضل.

حل آخر قد تكمن في حقيقة أن الخبراء أن تسأل برامج محددة معدل. إنشاء الخاصة بك أمثلة من الهجمات في المختبر ، على أساس قدرات المجرمين في رأيك ، ثم تبين لهم الجهاز خوارزمية التعلم. قد تساعده تصبح أكثر استدامة مع مرور الوقت — شريطة بالطبع أن اختبار الهجوم سوف يكون من النوع التي سوف يتم اختبارها في العالم الحقيقي.

"آلة نظم التعلم — أداة التفاهم. نحن بحاجة إلى أن تكون معقولة ومنطقية بالنسبة إلى ما نعطي لهم وما يقولون لنا" ، وقال مكدانيل. "نحن لا يجب أن نعاملهم كما الكمال الايحاءات من الحقيقة."