Як штучний інтелект навчається на наших звичках і обманах

Зазвичай, щоб знаходити злочинність в Мережі, онлайн, потрібно знати, що шукати. Штучний інтелект, який бачить приховані схеми, патерни, може робити це краще людей — і навіть бути на крок попереду. Грають у відеогру Counter Strike знають, що досить важко постійно обертатися і при цьому не втрачати суті того, що відбувається. У швидких шутерах від першої особи, завжди знайдуться гравці з більш швидкими рефлексами або більш гострим оком.

Але на піку популярності гри кілька років тому, люди почали стикатися з гравцями, навички яких були надто гарні. Шутери кштал Counter Strike і Half Life, ще одна дуже популярна гра, отримали проблему в особі гравців, які використовували чити, додаткове програмне забезпечення, що фіксує приціл на цілі або дозволяє бачити крізь стіни.

Тому в 2006 році, коли в онлайн-змаганнях зросли ставки за рахунок грошових призів, на допомогу прийшла пара незвичайних арбітрів. Девід Экселл і Білл Фіцджеральд були математиками, які тільки-тільки запустили компанію з розробки штучного інтелекту Featurespace в лабораторії Кембриджського університету. Їх програма прекрасно справлялася ось з чим: виявлення дивного поведінки.

Featurespace розробила систему машинного навчання, яка виявляла несподівані зміни до даних в реальному часі. На основі цих аномалій вона потім брала обґрунтоване припущення на тему ймовірної причини — і найчастіше виявлялося, що люди роблять те, чого не повинні.

Першим випробуванням ІІ був пошук гравців, які читерят (використовують нечесні методи) у відеоіграх. «Наша технологія дозволила ігровим компаніям переконатися, що люди будуть грати проти людей, а не проти роботів», говорить Экселл. Але ИИ Featurespace тепер суворо дотримується і інші види активності. Він став мовчазним вартовим в серці онлайн-банкінгу, електронної комерції та страхування. Він дозволяє виявляти шахрайство і шкідливі програми в Інтернеті — і навіть допомагає компульсивним картежникам.

Автоматичне виявлення аномалій у даних в реальному часі не є чимось новим — саме так спам-фільтри відсівають небажані повідомлення електронної пошти або антивірусне програмне забезпечення, що перехоплюють шкідливий код, наприклад. Але виявлення таких речей, як правило, вимагає, щоб система знала, що шукає. Антивірусне програмне забезпечення повинно отримувати свіжі дані про стан відбитків пальців або сигнатур шкідливого ПЗ.

Але це не допоможе вам виявити раніше невидимі види діяльності. Тому Экселл і Фіцджеральд намір побудувати систему, яка зможе виявити будь-тип поведінки, що відхиляється від норми, і зрозуміти, звідки він взявся.

Їх ШІ — під назвою «Арік» (Aric — адаптивний ідентифікатор індивідуальних змін у реальному часі) — заснований на роботі священнослужителя і математика 18 століття Томаса Байєса. Байєсівської розробив спосіб осмислення ймовірності, коли ймовірність події розраховується на підставі того, що вже спостерігалося раніше траплялося. Байєсівську ймовірність використовував Алан Тьюринг, щоб знайти підводні човни нацистів, виходячи з їх активності у минулому.

І її можна використовувати для визначення, коли гравець в Counter Strike, найімовірніше, читерит. Відстежуючи покадровые дані в грі, «Арік» позначає незвичайні сплески в точності стрільби окремих гравців. Очевидно, що вони використовують влучних ботів, які грають за них, говорить Экселл. «Арік» також зауважив, що деякі гравці несподівано швидко атакують своїх противників, і зробив висновок, що ті використовують чит, що дозволяє бачити крізь стіни.

Потім Featurespace використовувала свої методи, щоб знизити кількість безпілотників, які британські військові втрачають у повітрі. Відстежуючи аномалії в даних керування польотом, «Арік» знайшов раніше невідомі помилки, що приводили до збою дронов.

Фіцджеральд помер в 2014 році, але технології, які він допоміг розробити, змінюють методи виявлення шахрайства. Перше серйозне комерційне застосування Featurespace було здійснено спільно з британською фірмою онлайнових азартних ігор Betfair, для якої «Арік» виявляв випадки безрозсудні витрати на ставки — ознака того, що хтось може ставити на чужі гроші. Якщо «Арік» піднімає тривогу, Betfair миттєво розбирається в ситуації — транзакцію можна зупинити на льоту, якщо знадобиться.

«Арік» також починає шукати азартних гравців і самостійно. Серії високих ставок можуть говорити про те, що люди ведуть себе компульсивно. Крім онлайнових ставок, ця система може також відстежувати активність на ігрових автоматах і видавати попереджувальні знаки. «Якщо ви можете спрогнозувати, які гравці можуть стати залежними, ви можете спробувати втрутитися до виникнення проблем», говорить генеральний директор Featurespace Мартіна Кінг. Зараз «Аріка» використовують кілька серйозних ігрових контор.

Але найбільшими клієнтами «Аріка» стали банки і платіжні системи. Спостерігаючи за кожним етапом операції по мірі її протікання — кожен клік мишки на випадаючому меню, як зазвичай людина рухається по сайту, — він несподівано став потужним інструментом боротьби з злочинністю.

наприклад, система може сказати, якщо хтось використовує вкрадені банківські реквізити для входу в систему. Червоний прапор буде піднято, якщо людина використовує веб-сайт, а його поведінка не відповідає моделі, яка звична власнику украденої інформації.

так само, якщо хтось буде незвично вести себе наsite, це може бути ознакою того, що він вводить свої банківські реквізити, можливо, під тиском або в стані стресу. Будь-яка нерішучість підніме тривогу у банку, він зацікавиться причинами і, можливо, допоможе.

Звичайно, програмним забезпеченням все не обмежується, каже Кірк Бресникер з Hewlett Packard. Щоб зробити подібне виявлення аномалій ще потужніше, Бресникер і його колеги створюють комп'ютери, спеціально призначені для обробки щільних наборів даних, з яких навчаються програми з машинним навчанням кшталт «Аріка». Апаратне забезпечення Hewlett Packard — The Machine — додає величезну кількість пам'яті кожного з своїх процесорів, які можуть взаємодіяти між собою з вражаючою швидкістю.

У результаті виходить великий обсяг даних, які можуть проаналізувати все і відразу, що дуже важливо для виявлення аномалій у все більш великих і складних даних. Hewlett Packard планує зайнятися хакерами і шкідливим ПЗ, а не шахраями. Але інші фірми в Кремнієвій долині теж підключаються до цього. Intel нещодавно придбала Saffron Technology, яка робить системи, здатні виявляти і запобігати шахрайству, завдяки моніторингу «хаотичних неструктурованих даних». Featurespace також планує модернізувати «Аріка», поєднавши програмне забезпечення з апаратним швидше, щоб мінімізувати помилкові сигнали.