Искусственный Интеллект.

Вчера (и сегодня) пошле слухи о том что в/на OpenAI сумели создать т.наз. AGI - Artificial General Intelligence , т.е. полная иммитация человеческого мышления.

Итак, 28-ое Октября 2023г. , на сей раз пошли слухи с потверждением что AGI - Artificial General Intelligence был достигнут во "внутренних" (т.е. как бы лабораторных условиях) в/на конторе OpenAI. Оффициально это никто не обьявлял, достоверность конечно так себе. Согласно данного инсайда возможности (как бы "интеллектуальные" возможности) данного AGI на уровне обычного человека.

17-го ноября пошла новость о том что CEO (т.е как бы ген.директор) компании OpenAI Сэм Алтман был освобожден от должности (нечто типа уволен) по решению борда. Интересны в случае некоторые конспиративные теории что это связано с внутренних разборок насчет возможного декларирования достижения AGI в/на OpenAI. Дело в том что согласно договоренностей с Microsoft (который очень крупный акционер) гипотетические технологии ИИ типа AGI не будут иметь лицензионных обязанностей. Сэм Алтман все еще отвергает наличие именно AGI , однако Илья Суцкевер (рожден 1986г. в Нижнем Новгороде, после расспада СССР в возрасти 5 лет ушел в Израиль), который как бы главный инженер, похоже/возможно на мнении что OpenAI уже имеет технологию AGI. Тоесть (согласно конпирацией) возможно в скором времени декларирование достижения AGI.

Собственно почти ППКС. Товарищ формулирует на счёт сути интеллекта и возможности приближения к нему современных нейросетей.

---

...

Чертова дюжина умений

Невероятный хайп, царящий сегодня вокруг всего, что называют плохо осмысленным собирательным термином «искусственный интеллект», мешает задуматься над фундаментальными вопросами о родовых признаках интеллекта естественного. Но ведь не обозначив их, невозможно обсуждать предметно, как близко подошел ИИ, точнее один из разделов этого пучка технологий, а именно модели машинного обучения, к воспроизведению работы человеческого разума.

Крупнейший отечественный специалист в области теории информации, главный научный сотрудник ФИЦ «Информатика и управление» РАН Виктор Финн в интервью журналу «Стимул» сформулировал 13 характеристик идеального интеллекта.

Выделение существенного в обозреваемых данных

Порождение целеполагания, порождение последовательности «цель — план — действие».

Отбор знаний, релевантный цели рассуждения.

Способность к рассуждению, а именно к получению выводов из тех посылок, которые вы подобрали.

Способность к аргументации и принятию решений на ее основе.

Рефлексия, способность реагировать на свои знания, действия и их оценивать.

Познавательное любопытство: ответ на вопрос «что такое?» или способность к распознаванию явлений окружающего мира.

Способность к объяснению, ответ на вопрос «почему?».

Реализация познавательной деятельности посредством синтеза познавательных процедур, образующих эвристику решения проблем. Это не одна познавательная процедура, как, например, дедукция (вывод из посылок истинных заключений или умозаключение по аналогии), а обычно результат действия комплекса познавательных процедур, когда достигается некоторое новое знание.

Способность к обучению и использованию памяти.

Рационализация идей и преобразование их в понятия. Человек часто мыслит не понятиями, а идеями, которые неуточняемы или еще не уточнены, поэтому эта способность обязательна для создания науки.

Способность к интеграции знаний, объединение этих знаний, с тем чтобы создавать концепции и теории.

Адаптация знаний при получении новых сведений из мира, или коррекция теории.

Легко увидеть, что пока то, что называется машинным обучением, реализует только две способности из перечисленных, а именно распознавание (ответ на вопрос «что такое?») и обучение и использование памяти.

«Из этой характеристики интеллектуальных способностей непосредственно вытекает, — говорит Виктор Финн, — что не все то, что может в процессе познавательной деятельности делать человек, может быть автоматизировано, что-то мы можем сделать только в интерактивном режиме, в партнерстве с человеком. В частности, способность к трансформации идей в понятия, интеграция знаний для образования теорий, адаптация знаний при их получении, рефлексия — все эти тонкие и важные мыслительные и познавательные деятельности мы можем реализовать только в интерактивном режиме “человек — машина”. То есть наиболее серьезные системы искусственного интеллекта должны быть партнерскими, человеко-машинными системами».

Отсюда вроде бы следует, что никакого сверхразума, работающего без участия человека и без управления со стороны человека, сделать нельзя. Но невозможно ли это в принципе или компьютерные алгоритмы со временем освоят еще несколько высших интеллектуальных функций, недоступных, признаемся, и многим живым людям, мы уверенно ответить не беремся.

---

Да и без этого...
Почему, собссно, всех так волнует "сильный" ИИ? Потому что это "заменитель человека"?

Вот, например, очередная приблуда, которая ОЧЕНЬ далека от интеллекта... Но.

А вот результат (промпт "гимн корпорации МиГ"):

Эта штука сделала слова, сделала музыку, положила слова на музыку, дала результат. Через секунды. На любую тему и на любом языке. Согласись, что и попсу и само понятие "попса" такая штука может сильно подвинуть? Ты просто говоришь "Алиса, дай мне фоном мне под настроение репчик про тяжёлую жизнь курьера в Москве", и оно - фигарит жЫзненный репчик про жизнь курьера в Москве. Слезливый, если тебе нравятся слезливые. Бодрый, если тебя прёт.

Fakir> Интеллект - это синдром.
Fakir> Но у пациента-нейросети недостаточное количество симптомов проявляется.
Тут вот какое дело: мы называем "интеллектом" функционал человека. Именно этот набор фич, именно вот так функционально сложенные блоки, именно вот так количественно и качественно работающие.
Оно сложилось так для обеспечения выживания (возможно, что и случайно - просто этого было достаточно дял выживания).
Но если мы создаём ИИ, мы можем брать любые пропорции и любые расклады. Ну, как пример, ЧатГПТ 3 "рассуждал" на уровне ребёнка, но по уровню эрудиции он превосходил 99.9999% живущих людей. Может, у тебя ИИ-художник и будет фигово "рассуждать" (если это вообще применимо к какой-нить SD), но его можно сделать так, что он будет "тонко чувствовать" цвет, форму и настроение так, как никогда не чувствовал ни один из живших художников.
Запросто даже представима нейросеть напрочь лишённая целеполагания, зато строящая и воплощающая диавольски хитрые планы, уровня "эффекта бабочки".

И т.д. и т.п.
Чтобы заменить человека вовсе не нужен "настоящий ИИ" как у человека. Достаточно заменить человека в конкретной его деятельности.

на прошлой неделе был занятный эксперимент с ИИ. Он судил гонки ф1. Если кто не в курсе, в последнее время были большие проблемы с судейством. По сути, деятельность электромозгов была простейшей, никаких рассуждений там не требовалось, только машинное зрение. Но, в отличие от людей ИИ он отработал безупречно. И наверное потому, что он не был полноценным. Это люди могли растекатся мыслью по дереву, и из-за этого тормозить. ИИ выдавал решение мгновенно.
Из этого, а оно надо сильный ИИ?