Чіп MIT скоротив енергоспоживання нейромережі на 95%
Source:Нейронні мережі — потужні штуки, але дуже ненажерливі. Інженери з Массачусетського технологічного інституту (MIT) вдалося розробити новий чіп, який скорочує енергоспоживання нейронної мережі на 95%, що може в теорії дозволити їм працювати навіть на мобільних пристроях з батареями. Смартфони в наші дні стають все розумнішою і розумнішою, пропонують все більше послуг, подпитанных штучним інтелектом, начебто віртуальних асистентів і перекладів в реальному часі. Але зазвичай нейронні мережі обробляють дані для цих сервісів у хмарі, а смартфони лише передають дані туди і назад.
Це не ідеально, тому що вимагає товстий комунікаційний канал і припускає, що чутливі дані передаються і зберігаються за межами досяжності користувача. Але колосальні обсяги енергії, яка необхідна для живлення нейромереж, які працюють на графічних процесорах, неможливо забезпечити в пристрої, що працює на невеликому акумуляторі.
Інженери MIT розробили чіп, це знижує енергоспоживання на 95%. Чіп радикально скорочує потребу в передачі даних туди і назад між пам'яттю чіпа і процесорами.
Нейронні мережі складаються з тисяч взаємопов'язаних штучних нейронів, розташованих шарами. Кожен нейрон отримує ввідні дані від декількох нейронів у нижележащем шарі, і якщо комбінований введення проходить певний поріг, він передає результат декількох нейронів вище. Сила зв'язку між нейронами визначається вагою, який встановлюється в процесі навчання.
Це означає, що для кожного нейрона чіп повинен отримати ввідні дані для певного з'єднання і вагу з'єднання з пам'яті, помножити їх, зберегти результат, а потім повторити процес для кожного введення. Багато даних пересуваються туди і сюди, витрачається багато енергії.
Новий чіп MIT усуває це, вираховуючи всі вводи паралельно в пам'яті з використанням аналогових схем. Це значно зменшує обсяг даних, які необхідно перегнати, і призводить до значної економії енергії.
Такий підхід вимагає, щоб вага сполук був бінарним, а не діапазонним значенням, але попередні теоретичні роботи показали, що це не сильно вплине на точність, і вчені виявили, що результати роботи чіпа розходилися на 2-3% від звичайного варіанту нейронної мережі, що працює на стандартному пк.
Вже не в перший раз вчені створюють чіпи, які обробляють процеси в пам'яті, знижуючи енергоспоживання нейромережі, але в перший раз цей підхід був використаний для роботи потужної нейромережі, відомої своїми обробками зображень.
«Результати показують вражаючі специфікації впровадження енергоефективного згортки операцій в межах масиву пам'яті», говорить Даріо Джил, віце-президент з штучного інтелекту в IBM.
«Це, безумовно, відкриває можливості використання більш складних згорткових нейронних мереж для класифікації зображень і відео в Інтернеті речей у майбутньому».
І це цікаво не тільки групам R&D. Бажання влаштувати ШІ на пристрої на кшталт смартфонів, побутової техніки і всілякі IoT-пристрої штовхають багатьох з Кремнієвої долини в сторону чіпів з низьким енергоспоживанням.
Apple вже інтегрувала свій Neural Engine в iPhone X, щоб живити, наприклад, технологію розпізнавання осіб, так і Amazon, за чутками, розробляє власні чіпи ШІ для наступного покоління цифрових асистентів Echo.
Великі компанії, виробники чіпів також все більше починають покладатися на машинне навчання, що змушує їх робити свої пристрої ще більш енергоефективними. На початку цього року ARM представила два нових чіпа: процесор Arm Machine Learning, що працює з завданнями загального ІІ, від переказу до розпізнавання осіб, і процесор Arm Object Detection, визначає, наприклад, особи на знімках.
Новітній мобільний чіп Qualcomm, Snapdragon 845, має графічний процесор і значною мірою орієнтований на ШІ. Компанія також представила Snapdragon 820E, який повинен працювати в безпілотниках, роботах та в промислових пристроях.
Забігаючи вперед, IBM і Intel розробляють нейроморфные чіпи, архітектура яких натхненна людським мозком і неймовірною енергоефективністю. Це теоретично могло б дозволити TrueNorth (IBM) і Loihi (Intel) проводити потужне машинне навчання, користуючись лише невеликою часткою енергії звичайних чіпів, але ці проекти ще суто экспериментальны.
Змусити чіпи, які дають життя нейросетям, економити енергію батарей буде дуже складно. Але при нинішніх темпах інновацій це «дуже складно» виглядає цілком посильним.
Більше:
Венера має газ, вироблений мікробами. Вчені знайшли іноземців?
Був припущення, що може бути життя на Венери Протягом багатьох років вчені шукають життя на Марсі. Але хто знає, може вони там не дивляться? У 2017 році дослідники з США та Великобританії почали шукати ознаки життя на Венері, яка є другою за величино...
Чи може мелатонін допомогти лікувати коронавірус?
Деякі лікарі вважають, що гормон сну допомагає при коронавірусі Схоже, що в переліку потенційних методів лікування COVID-19, які дослідники запропонували протягом декількох місяців пандемії, ще одне поповнення: мелатонін. Лікар в Техасі каже, що він ...
Що таке "гормон любові" і хто його не вистачає?
Окситоцин - гормон любові Людське тіло виробляє величезну різноманітність гормонів, кожен з яких виконує своє завдання. Наприклад, багато відомих ендорфінів приносять людям відчуття радості, а надлишок кортизолу сигналізує про стресовий стан людини. ...
Новини
Росія і Китай будуть спільно досліджувати Місяць і дальній космос
Роскосмос і Китайська національна космічна адміністрація (КНКА) підписали угоду, в рамках якого обидві сторони мають намір спільно зайнятися космічними дослідженнями. Російське космічне відомство повідомляє, що документи були підп...
Перший експеримент на колайдері в підмосковній Дубні почався
В підмосковному місті Дубна запущений перший експеримент на споруджуваному силами Об'єднаного інституту ядерних досліджень (ОІЯД) іонному ускорительном комплексі НІКА (NICA, Nuclotron-based Ion Collider fAcility). Як повідомляєтьс...
Дотик коханої людини має болезаспокійливу ефектом
Дотику людини завжди приємні, але, крім цього, якщо вірити новим дослідженням групи учених з Франції та Ізраїлю, вони мають ряд дуже цікавих ефектів. Наприклад, з допомогою тактильного контакту двоє близьких людей синхронізують ро...
Вчені уловили сигнали від самих перших зірок у Всесвіті
Ранній етап формування здебільшого залишається загадкою для сучасної науки. Але в новому дослідженні, опублікованому в журналі Nature, дослідники навели переконливі аргументи на користь того, коли саме почали формуватися перші зір...
Вчені відкрили новий різновид стовбурових клітин
Якщо розгорнути назад біологічний годинник будь-якої клітини людського організму, то вона повернеться до стану однієї з різновидів . Саме з них починається зростання багатоклітинних організмів, що стовбурові клітини здатні самообн...
Вчені з'ясували, що раціон впливає на наш емоційний стан
Одна популярна реклама стверджує: ти — не ти, коли голодний. Однак на наш настрій і емоційний стан впливає не тільки голод, але ще й та , яку ми вживаємо. До такого висновку прийшли фахівці з медичного центру при Університет...
Життя є в найбільш посушливій пустелі на Землі. Отже, вона може бути на Марсі
При пошуку нових потенційно жилих планетарних тіл астрономи завжди звертають увагу на один аспект – наявність або відсутність на цьому планетарному тілі води. Вони так звикли. На Землі є вода, і вона є важливою і невід'ємною части...
Чи готові ви заразитися небезпечними паразитами заради науки?
Часом заради того, щоб протестувати ліки від якої-небудь хвороби, вченим доводиться набирати групи добровольців, готових піддати свої життя небезпеці в ім'я загального блага. Зрозуміло, найчастіше піддослідним платять деяку матері...
Що буде, якщо на Землі стане на 2°C тепліше?
Якщо світ стане тепліше на два градуси Цельсія, ми приречені. Щоб запобігти це, ООН підписала Паризьку угода, міжнародний договір, згідно з яким підписанти будуть намагатися підтримувати середню світову температуру «на 2°C ни...
В очікуванні «робота Рембрандта»: коли машини почнуть творити по-справжньому?
Віолончеліст Ян Фоглер вважав, що мистецтво робить нас людьми. Але що, якщо машини теж почнуть творити мистецтво? Вище, наприклад, ви можете побачити, що вже вміють створювати різного роду штучні інтелекти у творчій області. Право...
Може темна матерія породити «темну життя»?
Переважна більшість маси у Всесвіті невидимо. І вже протягом досить довгого часу фізики намагаються зрозуміти, чим є ця невловима маса. Якщо вона складається з частинок, є надія, що Великий адронний коллайдер зможе зробити частку ...
Астроном-любитель першим в історії отримав фотографію появи наднової
Здавалося б, яких тільки документально підтверджених фактів космічних явищ ще не встигла отримати наука. Тим не менш в космосі є ще безліч цікавих речей, про які вчені знають, але тим не менше ніколи в житті не бачили особисто. А ...
Червоне вино здатне запобігати захворювання зубів і ясен
Між прихильниками здорового способу життя та любителями пропустити за вечерею пару келишків постійно спалахують дискусії про те, хто з них правий, а хто глибоко помиляється. Незважаючи на те, що алкоголь у великих кількостях, безу...
Намагаючись зрозуміти природу надмасивних чорних дір, вчені виявили десятки справжніх монстрів
Вивчення кількох десятків галактик, розташованих у радіусі декількох мільярдів світлових років від нашої власної, дозволило відкрити кілька чорних дір, які багаторазово перевищують наші очікування з приводу того, наскільки великим...
Штучний інтелект від Google миттєво виявить інфаркт
Здавалося б, що нового можна придумати в області методів діагностики захворювань серця, адже все вже давно придумано – знай собі покращуй існуючі методики! Проте дослідники з біомедичної компанії Verily (власником якої, до речі, є...
Ми зможемо змінити власну біологію. Але чи готове до цього суспільство?
Поліпшення нашої власної біології може здатися чимось з розряду наукової фантастики, але спроби покращити людство, насправді, робилися вже тисячі років тому. Кожен день ми покращуємо себе за допомогою кропітких вправ, медитації аб...
Морська зірка може бачити в темряві (і не тільки)
Якщо вам пощастить і ви одного разу вийдете на березі океану, ви побачите морських зірок. Вони бувають самих різних розмірів і кольорів, але ви коли-небудь замислювалися, як це многорукое або многолапое істота примудряється жити в...
Рослини колонізували Землю на 100 мільйонів років раніше, ніж передбачалося
протягом перших чотирьох мільярдів свого існування наша планета була позбавлена якої-небудь життя, крім мікробів. Ситуація докорінно змінилася в той момент, коли Землю почали озеленювати , створили сприятливе середовище для заселе...
SpaceX отримала дозвіл на запуск дуже цінного вантажу
Мова йде про новому космічному телескопі TESS, дозвіл на запуск якого з допомогою ракети-носія Falcon 9 компанія Ілона Маска отримала від Національного управління США з аеронавтики і дослідженню космічного простору (NASA). Крім то...
Чи може у Всесвіті бути свідомість?
За останні 40 років вченим поступово відкрився дивний факт про нашого Всесвіту: її закони фізики і початкові умови Всесвіту ідеально налаштовані для того, щоб життя отримала шанс на розвиток. Виявляється, що для того, щоб з'явилас...
Примітка (0)
Ця стаття не має коментарів, будьте першим!