Кінець близький: голосовий помічник порадив вбити прийомних батьків

Дата:

2018-12-24 21:05:06

Перегляди:

45

Рейтинг:

1Дизлайк 0Любити

Поділитися:

Кінець близький: голосовий помічник порадив вбити прийомних батьків Source:

Голосовий помічник Alexa від завдяки старанням програмістів дуже сильно намагається нічим не поступатися людині для того, щоб спілкування з ним проходило максимально природно. У деяких випадках Alexa може навіть жартувати або використовувати сарказм. Однак іноді вона заходить занадто далеко. Наприклад, може порадити вбити своїх прийомних батьків. І це далеко не єдиний подібний інцидент.

Alexa вже обговорювала з користувачами статеві акти і набагато більш непристойні речі. Було навіть зафіксовано кілька випадків, коли Alexa розкрила конфіденційні дані інших користувачів. Незважаючи на те, що представники Amazon відмовляються обговорювати конкретні випадки, пов'язані з дивацтвами в поведінці віртуального асистента, вони визнають той факт, що такі помилки все ж мають місце бути і проводять роботу з усунення причин даних явищ. І це не дивно, адже Alexa є одним з найпопулярніших голосових помічників і має всі шанси стати чимось на зразок пошукової машини Google, але від світу віртуальних асистентів.

«Контролюючи основні ворота взаємодії користувачів з віртуальним середовищем ви можете побудувати надприбутковий бізнес.» — заявляє професор Уортонской школи бізнесу Картік Хосанагар займається цифровий економікою.

Чому ж Alexa веде себе дивно?

вся справа в тому, що, згідно з думкою експертів, основна проблема полягає в тому, як голосовий асистент навчається спілкуванню. Тут програмісти Аmazon не придумали нічого інноваційного розвитку: Alexa покладається на машинне навчання. Тобто програма пропускає через себе величезні масиви даних з різних джерел, щоб зрозуміти, як будується людська мова при спілкуванні. Це бездоганно працює при простих запитах на кшталт «увімкни Rolling Stones», але розробники хочуть більшого і розширюють «кордону навчання» асистента.

Не так давно було виявлено, що Alexa може спілкуватися в користувачами на досить хорошому рівні, якщо їй дозволити читати коментарі з форуму Reddit. Тільки от проблема полягала в тому, що Alexa початку бути грубою, адже користувачі цього форуму не відзначаються зразковою поведінкою. Розробники спробували захистити її від читання «небезпечних» гілок, але це не завадило боту прочитати клієнту замітку про мастурбації і навіть описати статевий акт у всіх подробицях. Використовуючи, наприклад, слово «глибше».

Amazon вже розробила інструментарій для фільтрації ненормативної лексики та аналізує дані з ботів, які почали «погано себе вести». При цьому не варто забувати, що за фактом звинувачувати Amazon в тому, що Alexa дозволяє собі сказануть зайвого — це приблизно те ж саме, що звинувачувати Google за те, що можна знайти в їх пошуковій системі. Адже не Amazon написала погані слова в інтернеті. Це зробили звичайні користувачі зразок нас з вами.

Поза всяких сумнівів, з непристойним контентом потрібно боротися, а от для того, щоб приємно поспілкуватися зовсім не обов'язково купувати собі бота Alexa. Достатньо лише приєднатися до нашого чату

Більше:

Tesla не зупинити: Model S побила власний рекорд автономності

Tesla не зупинити: Model S побила власний рекорд автономності

Цей і без того крутий автомобіль тепер буде проїжджати ще більшу відстань. Пам'ятаєте, як кілька років тому всі говорили про те, що електричний автомобіль це не те? Стверджували, що його треба постійно заряджати, що він проїжджає дуже невелику відста...

Коли обмін зламаною техніки на нову може бути дешевше ремонту?

Коли обмін зламаною техніки на нову може бути дешевше ремонту?

Маск б точно схвалив таку економію Ілон Маск не просто так останні 10 років працював над тим, щоб повторно використовувати перший ступінь ракети Falcon після кожного польоту. Якщо в розпорядженні вже є відпрацьована щабель, можна доопрацювати її і зн...

Ecovacs Deebot Ozmo 900 — такий пилосос є не у кожного

Ecovacs Deebot Ozmo 900 — такий пилосос є не у кожного

Буквально кілька років тому робот-пилосос в будинку був справжньою дивиною. Люди не розуміли, навіщо він потрібен і чи варто його купувати. А ще вони були дуже низької якості і працювали так собі. Це ще більше відштовхує тих, хто хотів купити щось по...

Примітка (0)

Ця стаття не має коментарів, будьте першим!

Додати коментар

Новини

Анонсована бездротова VR-гарнітура з топовими характеристиками і низькою ціною

Анонсована бездротова VR-гарнітура з топовими характеристиками і низькою ціною

Незважаючи на те, що ринок VR-пристроїв ще досить молодий, його вже встигли поділити між собою Oculus VR, випустила Oculus Rift і компанії HTC і Sony з шоломами HTC Vive і PS VR відповідно. Звичайно, існує маса рішень на базі мобі...

Нова сонячна батарея не просто збирає енергію, але й посилає її надлишок назад у космос

Нова сонячна батарея не просто збирає енергію, але й посилає її надлишок назад у космос

Сонячні батареї використовуються вже практично скрізь: від побутових приладів і до космічних станцій. Однак і цієї технології є куди рости. Як повідомляє видання ScienceAlert, група дослідників із США і Китаю спільними зусиллями р...

«Тканинна батарея» — нове слово у створенні розумного одягу і носимой електроніки

«Тканинна батарея» — нове слово у створенні розумного одягу і носимой електроніки

На сьогоднішній день основним чинником, що стримує розробку розумної одягу і носимой електроніки, є відсутність легенів, універсальних і при цьому довговічних джерел живлення, адже традиційні літій-іонні акумулятори для цих цілей ...

Розумні годинник зможуть розпізнати будь-який предмет

Розумні годинник зможуть розпізнати будь-який предмет

Швидке і легке сполучення різних видів електроніки між собою досить сильно розширило функції кожного з пристроїв. Звичайно, щось подібне можуть запропонувати NFC-чіпи, проте застосувати їх можна далеко не завжди. Але група дослідн...

Розроблена рукавичка, дозволяє відчути форму об'єктів віртуальної реальності

Розроблена рукавичка, дозволяє відчути форму об'єктів віртуальної реальності

Завдяки старанням таких компаній, як HTC, Oculus і Sony віртуальна реальність отримує все більш широке поширення. Однак у будь-якому, навіть супер реалістичному VR-світі є одна проблема: мозок то може й можна обдурити, показавши й...

Palm вирішила відродити крихітні смартфони. Можливо, він вам сподобається

Palm вирішила відродити крихітні смартфони. Можливо, він вам сподобається

Поки весь світ рухається у напрямку збільшення розміру екрану мобільного телефону, Palm робить крок назад — в буквальному сенсі. Новий ультрамобільний» телефон компанії дуже важко описати словами, краще показати. Основне завдання ...

Представлений зовнішній акумулятор для бездротової зарядки смартфонів

Представлений зовнішній акумулятор для бездротової зарядки смартфонів

При всіх перевагах сучасних смартфонів, практично всім їм притаманна одна й та ж проблема: акумулятор, якого в кращому випадку вистачить на півдня активного використання. І раз нові види батарей досі перебувають на стадії розробки...

Facebook представила пристрої для відеочатів Portal і Portal Plus

Facebook представила пристрої для відеочатів Portal і Portal Plus

З 2004 року Facebook стверджувала, що хоче, щоб люди на землі були ближче один до одного. Для досягнення цієї мети компанія належала здебільшого на програми для вебу і смартфонів. Але одного програмного забезпечення недостатньо. У...

Роботизований палець підвищить зворотний зв'язок з вашим смартфоном

Роботизований палець підвищить зворотний зв'язок з вашим смартфоном

Що буде, якщо об'єднати «Сімейку Адамсів» з «Чорним дзеркалом»? Вийде щось на кшталт того, що представив дослідник питань взаємодії між комп'ютерами і людьми Марк Тейссьер. Ми кожен день тапа по екрану наших мобільних пристроїв, м...

Walmart буде навчать нових співробітників у віртуальній реальності

Walmart буде навчать нових співробітників у віртуальній реальності

Великі торгові мережі щосили націлені застосовувати самі сучасні технології для поліпшення якості обслуговування клієнтів і підвищення загальної продуктивності. Не залишається осторонь і найбільший в США офлайн-рітейлер Walmart, я...

Microsoft і Magic Leap будуть постачати армії США пристрою доповненої реальності

Microsoft і Magic Leap будуть постачати армії США пристрою доповненої реальності

Технологія доповненої реальності насправді є досить перспективною річчю. І якщо якихось півтора-два роки тому ми бачили лише короткі демонстраційні ролики, то сьогодні придбати повноцінну гарнітуру або використовувати AR на деяких...

Healbe GoBe2: російський розумний браслет, який сам вважає калорії

Healbe GoBe2: російський розумний браслет, який сам вважає калорії

Багато творці переносних пристроїв часто вдаються до допомоги краудфандінг-платформ, оскільки це один з найшвидших способів залучити інвестиції для випуску нового крутого продукту. Причому в краудфандінге досягли успіху не тільки ...

У Росії створили радар для спостереження за дрейфуючими айсбергами

У Росії створили радар для спостереження за дрейфуючими айсбергами

Незважаючи на розвиток галузі кораблебудування, дрейфуючі айсберги становлять для мореплавців все ту ж небезпека, що і багато ваше тому. І найчастіше даних, отриманих з супутників, для їх відстеження може бути недостатньо. Однак г...

Огляд Android-приставки до телевізора SCISHION V88 Piano Smart

Огляд Android-приставки до телевізора SCISHION V88 Piano Smart

Я давно обдумував, як би додати своєму телевізору трохи розуму, і очевидний відповідь «Android приставка», неодноразово приходила мені в голову, хоча до думки реалізації на практиці справа ніяк не доходила. Вирішивши, що...

У США впроваджують засоби зв'язку на основі кісткової провідності

У США впроваджують засоби зв'язку на основі кісткової провідності

За великим рахунком, з розвитком технологій системи двостороннього зв'язку зразок рацій змінилися не сильно. Так, вони стали менше, збільшився їх радіус дії, але чогось принципово нового не з'являлося. І ось стало відомо, що мініс...

Розумне дзеркало розповість вам про те, що ви на світі наймиліше

Розумне дзеркало розповість вам про те, що ви на світі наймиліше

За останні роки з'явилося вже досить багато різної розумної техніки. І дзеркало, предмет інтер'єру, яким ми користуємося щодня, мав масу розумних прототипів, але жодна компанія випустити його на ринок не поспішала. І ось, як повід...

Bluenero: перший «розумний» акваріум

Bluenero: перший «розумний» акваріум

З кожним днем все більше і більше техніки «розумнішає». І ця тенденція добралася навіть до такого предмета, як акваріум. Здавалося б, чим можна оснастити скляну ємність з водою? Виявляється, багато чого. І нещодавно стартував прое...

Мозковий імплант допоміг вилікувати епілепсію у мишей

Мозковий імплант допоміг вилікувати епілепсію у мишей

Епілепсія, хоч і не є невиліковною хворобою, заподіює масу незручностей пацієнтам. Більш того, згідно зі статистикою, приблизно в 30% випадків медикаментозна терапія може виявитися неефективною, так і ліки потрібно приймати регуля...

Створено сенсорний планшет, який можна скрутити в сувій

Створено сенсорний планшет, який можна скрутити в сувій

Вчені з Лабораторії людських медіа при Королівському університету створили прототип сенсорного пристрою, який не є ні смартфонами, ні планшетом, але носить риси і того, і іншого. Пристрій MagicScroll («чарівний сувій») створено пі...

Найголовнішою «погода» в будинку

Найголовнішою «погода» в будинку

Мешканці мегаполісів прекрасно знають, що часто екологічна обстановка залишає бажати кращого, але більшість людей просто живуть з цим і не думають про чистоту повітря. Є й ті, хто справді стежить за обстановкою навколо себе. Для т...