Нейросети в железе — нейропроцессоры и т.п.

 
+
-
edit
 

Balancer

администратор
★★★★★
Сообщение было перенесено из темы Как будут развиваться дальше процессоры?.

TrueNorth — процессор нового поколения

Достаточно странно, что никто на Хабре не написал, но, на мой взгляд, сегодня произошло знаковое событие. IBM представила новый, полностью законченный чип,... // habrahabr.ru
 

В чипе 1 миллион нейронов и 256 миллионов синапсов.
 3434
+
+1
-
edit
 

Balancer

администратор
★★★★★
Сообщение было перенесено из темы Как будут развиваться дальше процессоры?.
компьютеры новости процессоры IBM TrueNorth интеллект нейросети
Немного оценок по чипу TrueNorth.

1 млн. нейронов — это примерно уровень пчелы (~ 950 тыс. нейронов в мозге).

Мозг крысы — 21 млн. нейронов. (или 55 млн., разные источники приводят разные цифры)

Мозг собаки — 160 млн. нейронов.

Мозг кошки — 300 млн. нейронов.

Мозг человека — 100 млрд. нейронов.

Если правило Мура будет распространяться на развитие нейрочипов, то уровень мозга кошки будет достигнут через 15 лет, а уровень мозга человека — через 60 лет :)

 36.0.1985.12536.0.1985.125
+
-
edit
 

Balancer

администратор
★★★★★
Сообщение было перенесено из темы Как будут развиваться дальше процессоры?.

IBM поставила LLNL нейропроцессоры TrueNorth за $1 млн

Ливерморская национальная лаборатория получила недавно от компании IBM нейроморфные чипы TrueNorth. Сумма контракта на поставку шестнадцати нейропроцессоров второго поколения составила $1 млн. Каждый из этих нейрочипов имитирует работу свыше одного миллиона нейронов и легко масштабируется на оригинальной платформе IBM. // www.computerra.ru
 
В TrueNorth используется 5,4 млрд транзисторов, организованных в 4096 вычислительных ядер, каждое из которых эмулирует работу 256 нейронов. Таким образом, один чип алгоритмически воссоздаёт массив из 220 нейронов и на порядок больше синапсов.

У TrueNorth при масштабировании нет потерь на синхронизацию, поэтому кластер из 16 нейроморфных процессоров эмулирует в кремнии ≅ 16,7 млн. нейронов и более 4 млрд синапсов. «Мы начали создавать нейросинаптические суперкомпьютеры», – написали в своём блоге разработчики IBM, когда впервые объединили несколько процессоров TrueNorth в единую вычислительную систему.

Каждое ядро TrueNorth содержит планировщик заданий, собственную память типа SRAM (в ней хранятся информация о других ядрах, состояния нейронов и синапсов) и маршрутизатор для связи с другими ядрами. Любое ядро может взаимодействовать с любым другим, но всегда стремится выбрать кратчайший путь обмена данными.

Чип TrueNorth работает на частоте около одного килогерца и выполняет 46 млрд операций с синапсами в секунду, потребляя в среднем 70 милливатт. Даже при моделировании сложных периодических нейронных сетей TrueNorth требуется менее 100 мВт. Весь кластер из 16 чипов потребляет (с учётом всех потерь мощности) менее 2,5 ватт. Такая же обрабока нейросетей на суперкомпьютере потребовала бы в 176 тыс. раз большей мощности (440 КВт).

Сумма контракта на поставку шестнадцати нейропроцессоров второго поколения составила $1 млн.
 
 33

+
-
edit
 

Balancer

администратор
★★★★★

IBM создала искусственные нейроны с возможностью фазового перехода

Компьютеры довольно давно уже сравнивают с искусственными «мозгами», однако компания IBM решила вывести это сравнение на новый уровень и создала рабочий искусственный физический нейрон. Исследовательский центр технологического гиганта в Цюрихе создал 500 и... // hi-news.ru
 
 1616

Fakir

BlueSkyDreamer
★★★★☆
А ведь пожалуй это некий аналог нейросети! Причём, возможно, полностью к классической нейросети несводимый - за счёт дальних слабых связей практически между всеми элементами.

Музей электронных раритетов - Пассив - ЛФ-9П

Сайт посвящен редким образцам микроэлектроники, в основном советского производства //  www.155la3.ru
 

Статьи о уникальном приборе - политроне

Вы узнаете об уникальном приборе политроне, который был незаслуженно забыт. Удивительно четко распознает любые образы(в т.ч. звуки, мысли и эмоции!), возможна передача информации на расстояни //  www.politron.freeservers.com
 
Исследования, проведенные в отраслевой лаборатории радиоэлектронных систем Северо - Западного политехнического института, показали, что особые таланты прибор проявляет в распознавании речевых и оптических образов.

...

Для того, чтобы, например, распознать определенный голос, не нужно составлять специальных программ— они “вырабатываются” здесь автоматически, в процессе “обучения” прибора. Звук, преобразованный в электрические сигналы, поступает в аппарат и с помощью особого устройства мгновенно запоминается. В дальнейшем прибор уже может распознавать его среди любых других звуков.

Что это обещает? Например, прибор дает сигнал совершать то или иное действие только по команде определенных лиц и не “откликается” на другие голоса. А какие возможности открываются перед теми, кто охотятся за голосами птиц, рыб, животных! Или хочет судить о состоянии двигателя по его “шумовым характеристикам. В оптическом варианте использования прибора можно безошибочно определять среди потока деталей брак, различать цвета и даже тончайшие их оттенки, “читать” книжный текст.

Все процессы протекают внутри прибора исключительно быстро.
 





Совершенно фриковский сам по себе сайт, но некоторая инфа есть.

Политрон: уникальный прибор - почти искусственный интелект (причем наш - отечественный)

Вы узнаете об уникальном приборе политроне, который был незаслуженно забыт. Удивительно четко распознает любые образы(в т.ч. звуки, мысли и эмоции!), возможна передача информации на расстояни //  www.politron.freeservers.com
 

Эксперименты и возможности политрона

Вы узнаете об уникальном приборе политроне, который был незаслуженно забыт. Удивительно четко распознает любые образы(в т.ч. звуки, мысли и эмоции!), возможна передача информации на расстояни //  www.politron.freeservers.com
 
ОСНОВНЫЕ НАПРАВЛЕНИЯ ПРАКТИЧЕСКОГО ИСПОЛЬЗОВАНИЯ ПОЛИТРОНА

Распознавание образов с высокой достоверностью, скоростью и минимальными энергетическими затратами. Раннее прогнозирование погоды, стихийных бедствий и катастроф, а также надежности работы различных технических систем и устройств. Раннее прогнозирование различных заболеваний. Оптимальное управление техническими и биологическими системами. Связь на ближних и дальних расстояниях через эфир и через сплошные среды с предельно высокой помехозащищенностью и минимальными энергетическими затратами. Получение достоверной информации из труд недоступных мест. Прогнозирование в геологоразведке.

Проводимые исследования в этих и других смежных направлениях, выполняемые в течение длительного времени рядом научных коллективов под руководством А.И.Ставицкого, показали феноменальные результаты. В действующих установках политронные системы демонстрировались на престижных выставках, в частности, на Выставке Достижений Народного Хозяйства СССР. Они также нашли свое отражение во многих докладах, публикациях и авторских свидетельствах на изобретения. Некоторые из них приводятся здесь.

Следует также отметить, что политрон вошел в список наиболее перспективных вакуумных приборов, освоенных отечественной промышленностью, которые были отмечены Государственной Премией СССР.

Политрон устойчив к радиации и высоким температурам. Диапазон рабочих частот от 0 до 3 мГц.
 
 51.051.0
MD Wyvern-2 #08.11.2018 16:02  @Balancer#11.08.2014 20:32
+
-
edit
 

Wyvern-2

координатор
★★★★★
Balancer> Немного оценок по чипу TrueNorth.
Balancer> 1 млн. нейронов — это примерно уровень пчелы (~ 950 тыс. нейронов в мозге).
Balancer> Мозг крысы — 21 млн. нейронов. (или 55 млн., разные источники приводят разные цифры)
Balancer> Мозг собаки — 160 млн. нейронов.
Balancer> Мозг кошки — 300 млн. нейронов.
Balancer> Мозг человека — 100 млрд. нейронов.
Balancer> Если правило Мура будет распространяться на развитие нейрочипов, то уровень мозга кошки будет достигнут через 15 лет, а уровень мозга человека — через 60 лет :)


Только вот мозг человека "вырабатывая" сознание действует ни разу не как нейросеть. А количество связей там растет в геометрической прогрессии - Воскресные 10 фактов. Астроциты
Жизнь коротка, путь искусства долог, удобный случай мимолетен, опыт обманчив.... Ἱπποκράτης  63.063.0
RU Balancer #11.11.2018 14:53  @Wyvern-2#08.11.2018 16:02
+
-
edit
 

Balancer

администратор
★★★★★
Wyvern-2> Только вот мозг человека "вырабатывая" сознание действует ни разу не как нейросеть.

Какая разница, если платформа всё равно нейросетевая :)

Wyvern-2> А количество связей там растет в геометрической прогрессии

Не-а. Количество синапсов у продвинутого нейрона условно фиксированно. Несколько тысяч в среднем. И тут не важно, миллион нейронов у тебя или миллиард.

У TrueNorth у каждого нейрона 256 синапсов. Конечно, это на порядок меньше, чем у нейронов человеческого мозга, но это разница не на порядки порядков, каковая была бы, если бы число связей росло геометрически :)

То есть нам надо сделать, грубо, в 100 тыс. раз более сложный процессор по числу элементов и в 1 млн раз более сложный по числу связей. Кстати, я ошибся где-то. Для человеческого мозга будет не +60 лет, а +30 лет :) Если же оценивать по числу связей, то это будет тогда не 30 лет, а 40 лет. Велика разница… :D



Другое дело, что закон Мура, скорее всего, работать сколь угодно далеко не будет. Это типичная ошибка экстраполяции в начале логистической кривой:

В её начале идёт экспоненциальный рост. Но потом происходит утыкание в ресурсы/технологии и он замедляется сперва до линейного, а потом и вовсе асимптотического.

В области IT мы как раз уже где-то в линейной области сейчас, кажется.
 55
MD Wyvern-2 #12.11.2018 14:00  @Balancer#11.11.2018 14:53
+
-
edit
 

Wyvern-2

координатор
★★★★★
Wyvern-2>> Только вот мозг человека "вырабатывая" сознание действует ни разу не как нейросеть.
Balancer> Какая разница, если платформа всё равно нейросетевая :)
Wyvern-2>> А количество связей там растет в геометрической прогрессии
Balancer> Не-а. Количество синапсов у продвинутого нейрона условно фиксированно.

Ты не понял %( В человеческом мозгу кроме прямых связей между нейронами типа "аксон-дендрит", оказывается есть еще и "боковые" - через астроглию, по принципу - "к близлежащему"... Волновое распространение возбуждения, на которое и грешат сегодня, как на основу сознания, осуществляется именно за их счет...
Жизнь коротка, путь искусства долог, удобный случай мимолетен, опыт обманчив.... Ἱπποκράτης  63.063.0
RU Balancer #12.11.2018 16:15  @Wyvern-2#12.11.2018 14:00
+
-
edit
 

Balancer

администратор
★★★★★
Wyvern-2> Ты не понял %( В человеческом мозгу кроме прямых связей между нейронами типа "аксон-дендрит", оказывается есть еще и "боковые" - через астроглию, по принципу - "к близлежащему"...

От этого, во-первых, нейросети не перестают быть нейросетями, во-вторых, информационная насыщенность таких передач мала и не должна сильно влиять на число нейронов.
 55
MD Wyvern-2 #12.11.2018 16:37  @Balancer#12.11.2018 16:15
+
-
edit
 

Wyvern-2

координатор
★★★★★
Wyvern-2>> Ты не понял %( В человеческом мозгу кроме прямых связей между нейронами типа "аксон-дендрит", оказывается есть еще и "боковые" - через астроглию, по принципу - "к близлежащему"...
Balancer> От этого, во-первых, нейросети не перестают быть нейросетями, во-вторых, информационная насыщенность таких передач мала и не должна сильно влиять на число нейронов.

Да. НО! Это принципиально меняет МЕХАНИЗМ работы. А количество связей растет геометрически...
Жизнь коротка, путь искусства долог, удобный случай мимолетен, опыт обманчив.... Ἱπποκράτης  63.063.0
RU Balancer #12.11.2018 17:50  @Wyvern-2#12.11.2018 16:37
+
-
edit
 

Balancer

администратор
★★★★★
Wyvern-2> Да. НО! Это принципиально меняет МЕХАНИЗМ работы. А количество связей растет геометрически...

Не-а. Принципиально это ничего не меняет. И связью такое назвать сложно, потому что она не адресная :) Это, скорее, система публичных извещений. При чём очень малой информационной плотности.
 55
+
-
edit
 

KrMolot

опытный

Появились в ограниченной продаже наборы разработчика с ускорителями свёрточных нейронный сетей от компании Gyrfalcon Technology

Gyrfalcon DevKit Simplifies Edge AI

Gyrfalcon's DevKit provides a complete suite of hardware and software tools for AI Model Creation. //  www.gyrfalcontech.ai
 

Непосредственно сами чипы и их описание:

Gyrfalcon Technology - CNN Accelerators for Edge & Cloud

CONVOLUTIONAL NEURAL NETWORK ACCELERATORs Using proprietary and patented architectures, our single chip and multi-chip board solutions cover the full range … //  www.gyrfalcontech.ai
 
 7070
Последние действия над темой

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru