Искусственный Интеллект.

Татарин> Скоро и неизбежно языковые модели станут почти единственным источником информации.

...если позволить - да, это будет 3,14ц.
Хотя сильно хуже по сравнению с текущей ситуацией едва ли станет.

Татарин> останется только горстка энтузиастов, ведущих свои сайты по желанию души (как на заре интернетов), и найти их будет непросто.

Спираль совершит виток, и появится новое FIDO.

Татарин> Примерно как большинство людей решает сложные задачи с большим количеством элементов с бумажкой, расписывая, а потом решая частями. Известно, что при некотором превышении связей между элементами это перестаёт работать, потому что нужно учитывать всё вместе одновременно.
Татарин> Да и в пределах всё ещё решаемого быстро растёт время на решение (на этом и основаны тесты на интеллект - скорость решения задач на границе предельной для данного человека сложности экспотенциально падает с ростом сложности). Можно увеличить количество заходов БЯМ, но требуемые экзафлопы точно так же будут экспотенциально расти с линейным ростом сложности задачи. Неизвестно (мне), где практический предел решения вопросов "в лоб", но вряд ли очень далеко.
Татарин> Нужно "повысить" интеллект, каким-то образом насобачив сеть работать с невербальными абстракциями высокого уровня

Ну как бы варианты подходов известны. Гидродинамика, особенно в аэродинамическом эксперименте, этим всем больше века занимается, и есть куча способов. Можно пытаться удержать в уме одновременно плотность, вязкость и скорость, а можно придумать Re и оперировать им одним. Метод позволяет почти неограниченное расширение. Но - это плохо алгоритмизуемо. Хотя приёмы и есть. Но интуиции и чувства прекрасного много надо.
И т.п. с этого куста. Это всё можно. Да и приёмы того же кластерного анализа и многих других с той же полки (факторный, дискриминантный и т.д.) едва ли исчерпали себя.
Но проблема в том, как это сопрячь с принципиально ненаблюдаемыми для нас и неотслеживаемыми связями внутри сеток.

Вот когда хотя бы будет сочетания детерминистских и "просматриваемых" для человека модулей анализа данных, обменивающимися ими с сетками по боле-мене понятному протоколу - ну, наверное, можно будет что-то сделать. Посило.
Но насчёт 10 лет терзают гигантские сомненья.

Fakir> Но чаще всё сводится к "имею возможность купить козу, но не имею желания, имею желание купить дом...".
Знаешь, если человеку нужен дом, а он тратит соизмеримые деньги на "собачьих парикхмахеров", то ему не нужен дом.

Fakir> Нередко у людей просто нет никаких социальных механизмов. На практике нет, даже если в теории есть.
Допустим даже так. Проблема, как ты должен бы сам понимать, в том, что как только ты начинаешь решать, что людям не нужен собачий парикхмахер, а нужен в собственности дом, ты быстро приходишь к обществу, в котором собачьих парикхмахеров нет и близко... а дома в собственности объявлены глупостью и излишествами. Кстати, исторически близко есть примеры.
На самом деле: а с чего ты взял, что людям нужны свои дома? Места на нарах в помещении с контролируемым микроклиматом вполне достаточно, санитарные условия выживания можно соблюсти и так.

Сверх этого начинаются чистые хотелки.

И вот тут подвох: когда ты СВОИ хотелки начинаешь выдавать за "волю народа", "всеобщую необходимость" и т.д. и, не дай бог, воплощаешь эту мечту, получается ситуация, что часть народа получает не то, что хотели (в соотношении с затраченными усилиями), часть - вообще не получает не то, что хотели, а та малая часть у которой хотелки и воплощение совпадают, в нормальном обществе при тех же усилиях получили бы и больше, и лучше.
В итоге все живут много хуже и "субъективно беднее".

А через некоторое время, когда большинству становится понятно, что через личные усилия свои личные хотелки большинство не воплощает или воплощает с несоразмерными сложностями, мотивация падает, и все становятся беднее объективно.

Fakir> ...а вообще, по твоей логике, люди ж сами оценивают нужность для них, к примеру, наркотиков. И уплаты налогов. А дальше - либо ты признаёшь их право решать такие вопросы для себя, либо нет.
С наркотиками мы живём - см. в магазине выбор алкоголя. Именно так. Мы признаём выбор людей не пить вообще, выпить на днюху, принять пятничного пивка, забухать на выходные, спиться.
Да, да, не отворачивайся, признаём. Мы убеждаем людей делать иной выбор, но признаём отвратительное право забухать. Альтернативы с запретами ради всеобщего блага много раз уже проходили в разных странах в разные времена - ничего хорошего не получалось. Казалось бы, пора уже выучить хотя бы такой простой урок...

А с налогами - ещё проще, это просто-напросто НЕ личный выбор.

Татарин> Переформулирую: достоверно, что с помощью БЯМ и управляющей нейросети можно добиться много большего, чем с помощью просто управляющей нейросети.

Это прекрасно, но ключевой вопрос не как далеко удастся продвинуться - а насколько далеко при этом ты останешься от цели (если понимать под целью полноценный интеллект, а не отдельные инструменты любой полезности).
Ну типа как с доказательствами некоторых результатов в теории чисел. Теорема доказана для всех чисел, больших, чем ~10^500. (ну а т.к. у нас конечный диапазон, то вроде можно просто перебором проверить, и тогда будет доказана полностью - но в силу огромной величины это нереально) Потом сделано существенное улучшение - и теперь доказана для всех чисел, больших всего лишь 10^400. Сто порядков!!! Колоссальный же прорыв!!! Но... от полного доказательства на практике мы так же далеки.
Как-то так. Иногда бывает.

Татарин> Плевать. В смысле - это вообще неважная фигня, которая постоянно поднимается латентными луддистами, но не имеет никакого реального значения.
Татарин> Ещё раз, по буквам: ни-ка-ко-го. Даже для луддистов.

Луддитов.

И это имеет охренительное практическое значение, причём совершенно вне зависимости, луддит ты или евангелист автопилотов. Собственно решающее значение.

Татарин> Что доказывает практическая эксплуатация роботакси в Китае (вижу пренебрежение на лице) и в Штатах (стране юристов и цветущей всеми цветами радуги адвокатуры). На практике - всем посрать. Даже луддисты не бьют и не жгут машины, автопилот которых "не сидит".

Что они там бьют или не бьют - строго пофиг. Всё это пока серая зона, сравнительно малочисленные примеры, вне нормального правового регулирования. Ну и интернет таким был когда-то. Где хошь "Майн Кампф" вывешивай, хошь рецепты наркоты, а уж хейт-спич на любой вкус в неограниченном количестве - а сейчас за ж.пу возьмут почти везде.
Аналогия с анархистским интернетом лишь поверхностная - только как намёк, что серую зону рано или поздно начнут приводить под контроль юриспруденции (тьфу). И как только соберутся - там выйдут агромадные проблемы. Тебе придётся всю юридическую систему революционизировать. Сопоставимых по масштабам тектонического сдвига примеров, к слову, в истории... ну за тыщу лет может штук пять наберётся. Но это не точно. И каждый раз было больно.

Татарин>> Скоро и неизбежно языковые модели станут почти единственным источником информации.
Fakir> ...если позволить - да, это будет 3,14ц.
А ситуация сама туда идёт, градиенты и движущие силы тут такие, что даже "не позволить"-то ты не можешь. Как?

Fakir> Спираль совершит виток, и появится новое FIDO.
А... статистически незначимые погрешности... Любое вменяемое государство даёт меньшинству выбешиваться, нужно лишь единство большинства.

Татарин> Знаешь, если человеку нужен дом, а он тратит соизмеримые деньги на "собачьих парикхмахеров", то ему не нужен дом.

Почему ж соизмеримые. Те, что имеет.

Татарин> Допустим даже так. Проблема, как ты должен бы сам понимать, в том, что как только ты начинаешь решать, что людям не нужен собачий парикхмахер, а нужен в собственности дом, ты быстро приходишь к обществу, в котором собачьих парикхмахеров нет и близко... а дома в собственности объявлены глупостью и излишествами. Кстати, исторически близко есть примеры.

Не, не найдёшь. Примеры будут очень плохими и натянутыми.

Татарин> На самом деле: а с чего ты взял, что людям нужны свои дома? Места на нарах в помещении с контролируемым микроклиматом вполне достаточно, санитарные условия выживания можно соблюсти и так.

Татарин> И вот тут подвох: когда ты СВОИ хотелки начинаешь выдавать за "волю народа",

Ты вообще свернул фиг знает куда. Причём тут СВОИ - мои, твои?
В 90% просто не знают о наличии альтернативы, еще в 9% - что она достижима.
"Ашо, так можно было?"

И выходит как в анекдоте про мальчика-дауна и волшебный грибок.

Татарин> С наркотиками мы живём - см. в магазине выбор алкоголя. Именно так.

Да серьёзно, и можно кокс купить, заплатив в кассу?

Татарин> А с налогами - ещё проще, это просто-напросто НЕ личный выбор.

Оппаньки! А как же так-то...?!! Нет, ну с собачьим парикмахером мне можно выбирать, типа, так и быть, а с налогами - ни-ни? На святое покушаешься?

Fakir>> Спираль совершит виток, и появится новое FIDO.
Татарин> А... статистически незначимые погрешности... Любое вменяемое государство даёт меньшинству выбешиваться, нужно лишь единство большинства.

Ширнармасса мозг имели, имеют и иметь будут. Ну методика поменяется, и будет казаться, что они чуть свободнее. Те, кто увиливал от телевизора (без такого уж успеха в итоге), будут окучены. И не то что они не были такими раньше - они просто будут окучены еще одним способом.

Татарин> Собссно, поэтому Яндекс (как и Сбер) "боится" отвечать на вопросы типа "чей Крым?".

Татарин> Поэтому сетку просто дообучили отмазываться от таких вопросов. Это не то, что нужно от сетки, к которой обращаются в массе именно граждане России.

У меня одного взрывается мозг от самого оборота "граждане массово обращаются к сетке"?
Господи, ЗАЧЕМ вы это делаете? К сетке. Массово. Б..., я хочу на другой глобус еще сильнее, чем раньше.
Лучше б бухали, право слово.

Fakir> У меня одного взрывается мозг от самого оборота "граждане массово обращаются к сетке"?
Fakir> Господи, ЗАЧЕМ вы это делаете? К сетке. Массово. Б..., я хочу на другой глобус еще сильнее, чем раньше.

самим гражданам в целом наверно пофиг, а вот как бэк для бизнес-систем которые не хотят у себя на опнпреме обучать и хостить выделенные LLM...и обращение к какому-нить сайту с ИИ-ассистентом проксируется "вон туда"...

Татарин>> Знаешь, если человеку нужен дом, а он тратит соизмеримые деньги на "собачьих парикхмахеров", то ему не нужен дом.
Fakir> Почему ж соизмеримые. Те, что имеет.
А если несоизмеримые, то и говорить не о чем: есть парикхмахер или нету, в любом случае этот человек не может построить дом и не делает сам достаточно "труда", чтобы обменять его на дом. То есть, парикхмахер иррелевантен вопросу.
И предупреждая следующий уровень наива: если ты заставишь парикхмахера пойти в строители, то дома ухудшатся по параметру цена/качество. Тебе надо будет ещё парикхмахера отдать свой труд за бесценок нашему человеку, а потом ещё и заставить человека жить в таком доме. И то, и другое решается, конечно. Но зачем? Смысл-то в чём?

Татарин>> На самом деле: а с чего ты взял, что людям нужны свои дома? Места на нарах в помещении с контролируемым микроклиматом вполне достаточно, санитарные условия выживания можно соблюсти и так.
Татарин>> И вот тут подвох: когда ты СВОИ хотелки начинаешь выдавать за "волю народа",
Fakir> Ты вообще свернул фиг знает куда. Причём тут СВОИ - мои, твои?
Именно вот при том, при той самой моей начальной мысли: ты решил, что собачьи парикхмахеры - излишество. Почему именно они? Почему 35м2 на человека - не излишество? Почему не излишество 9м2 в единоличном владении?
Места на трёхэтажных нарах физиологически достаточно. Проверено. Люди живут, и находят в такой своей жизни свои радости.

Татарин>> С наркотиками мы живём - см. в магазине выбор алкоголя. Именно так.
Fakir> Да серьёзно, и можно кокс купить, заплатив в кассу?
Серьёзно.
А кокс - нельзя. Нелогично, но вопрос традиций. В Боливии - можно.

Татарин>> А с налогами - ещё проще, это просто-напросто НЕ личный выбор.
Fakir> Оппаньки! А как же так-то...?!! Нет, ну с собачьим парикмахером мне можно выбирать, типа, так и быть, а с налогами - ни-ни? На святое покушаешься?
А вот так, потому что тут общественный интерес.
А с собачьим парикхмахером - твои личные представления о приоритетах хотелок ("много домов - нужно и важно, собачьи парикхмахеры - нет"), которые ты пытаешься представить (как минимум для себя) за общественные интересы.

Fakir> У меня одного взрывается мозг от самого оборота "граждане массово обращаются к сетке"?
Fakir> Господи, ЗАЧЕМ вы это делаете?
А зачем люди смотрят телевизор, читают газеты(!), бравзят интернеты или - вот уж точно хуже, чем обращения к БЯМ - массово же читают телеграм-каналы.

Ответ один и тот же.
Люди хотят знать или получить иллюзию знания.

Fakir> Лучше б бухали, право слово.
Есть и такое мнение.

Но сетка - сборище всех знаний человечества, а не только бесполезных.

Fakir> У меня одного взрывается мозг от самого оборота "граждане массово обращаются к сетке"?

"Большой Всепланетный Информаторий" (ц), можно БВИ

Татарин>> Переформулирую: достоверно, что с помощью БЯМ и управляющей нейросети можно добиться много большего, чем с помощью просто управляющей нейросети.
Fakir> Это прекрасно, но ключевой вопрос не как далеко удастся продвинуться - а насколько далеко при этом ты останешься от цели (если понимать под целью полноценный интеллект, а не отдельные инструменты любой полезности).
Я вообще не понимаю под целью "полноценный интеллект" что бы это ни значило.
Я вообще саму такую постановку вопроса считаю дурацкой и вредительской, ведущей к бессмысленной схоластике, бессмысленному переливанию виртуальной воды решетом из пустого в порожнее, загниванию мозга и бесцельной трате общественных интеллектуальных и производительных сил.

Я считаю единственно возможным эффективным критерием качества решение конкретных задачи быстро и задёшево.

Отсюда и моё (личное, для себя, но я обнаружил, что так думают многие) определение интеллекта: "полноценный интеллект" это то, что решает за человека все задачи, которые решает интеллект человека за сравненимое время со сравнимым качеством. Это не может быть "целью", это просто ещё один (рядовой и один из многих; важный лишь психологически) маркер на долгом пути по усложнению решаемых машинами задач. Если ты определяешь "полноценность" как-то иначе - ради бога, но ты должен понимать, что спор о таких определениях уткнётся в бессмысленную схоластику с философским размахиванием руками без практически ценных выводов.

...
В конкретном обсуждаемом нами случае нам нужен эффективный автопилот, соблюдающий правила, совершающий меньше аварий, хорошо адаптирующийся к изменяющейся и возможно нетривиальной дорожной обстановке. А "полноценный интеллект" нафиг не нужен, что бы ты под этим не понимал. Человеческий "полноценный интеллект" в вождении автомобиля себя проявляет неудовлетворительно.
Неважно "больше" "полноценный интеллект" чем "эффективный автопилот" или "меньше".
Нам не нужно выяснять, заборет ли слон кита, нам нужен конкретный функционал в идеальном исполнении, и мы стали к нему ещё ближе, гораздо ближе. И так по каждому конкретному вопросу.

Считай БЯМ в частности (и трансформеры вообще) просто таким мощным бустером для всех задач, связанных с применением адаптивных обучающимихся алгоритмов.
На уровне подхода. Новый очень мощный инструмент позволяющий почти нахаляву мгновенно подключить к почти любой задаче значительную часть знаний и опыта, накопленных человечеством.

Татарин> Это просто биржевые истерики. И в одну -

Понятно.
Но триллион есть триллион.
Интересно.

Fakir> Аналогия с анархистским интернетом лишь поверхностная - только как намёк, что серую зону рано или поздно начнут приводить под контроль юриспруденции (тьфу).
Главный вывод, который нужно сделать из истории с интернетом (но который ты, почему-то, пропустил) - это то, что в случае конфликта закона и интернета, интернет вовсе не отменили. А приспособили закон к регулировке ещё и интернета. Повозились, конечно, но это где-то там "специально обученые" возились, у себя в своей юридической песочнице. Ну да, постоянно идут конфликты, какие-то выплески - то там наркотой торгуют, то тут за экстемизм агитируют, санкции, свобода слова, пропаганда ЛГБТ и страны-агрессора... Понятно. Но интернет в целом работает, растёт, ширится и всё более плотно входит в техносферу. Технология слишком ценна, чтобы какие-то там "проблемы с законом" могли ей помешать.
Нигде и никогда не было ни малейшей паузы по этому поводу.
Всё определялось готовностью и способностью технологии.


То же самое и с автоводителями, автопилотами, автогрузчиками, авточего-то-там.

Fakir> И как только соберутся - там выйдут агромадные проблемы. Тебе придётся всю юридическую систему революционизировать.
Как выйдут, так и зайдёт. Не будет никакой "революции" в "юридической системе". Будет обычный законодательный кипиш с выплесками на обычную жизнь, громкими делами, привлечением конституционного и Высшего судов... По сути своей, всё это деятельность мало влияющая на жизнь обывателя и прогресс технологий. Ну, кроме лично участников конкретных инцендентов, но даже для них что новый прецендент, что суд по старому закону - один фиг, головная боль.
Тебе кажется, что требуется переоценка принципов субъектности. Но даже если это так - это большие изменения для юристов, а не для обычных людей. А я лично вообще по некоторому размышлению считаю, что никаких новостей тут не нужно; всё уже работает "как есть".

Татарин>> Это просто биржевые истерики. И в одну -
кщееш> Понятно.
кщееш> Но триллион есть триллион.
кщееш> Интересно.
Конечно, интересно. Но это, КМК, показательно для исследователя совсем других явлений, вовсе даже не искусственного интеллекта.

Например, из очевидного: если стоимость некой кампании столько потеряла от облома фантазий, то, может, эта кампания ничего и не теряла на самом деле?
В смысле, капитализация была ровно столь же "капитальной", как фантазии о будущем, в котором компания захватывает мир. А эта фантазия была настолько неустойчивой, что простая (по сути несвязанная с бизнесом нВидиа) новость о китайском чат-боте развалила её.

Из чуть менее очевидного: сколько ж денег там мотается свободными туда-сюда, просто по чиху?
Это ж не просто деньги, это относительно свободные деньги.

Fakir> они просто будут окучены еще одним способом.
Любому государству (и его жителям как следствие) лучше, когда жители окучиваются всеми способами, но в духе данного государства (читать как "мнение жителей более-менее синхронизировано; даже если не само мнение, то хотя бы представление об общем мнении").

Fakir>> У меня одного взрывается мозг от самого оборота "граждане массово обращаются к сетке"?
parex12> "Большой Всепланетный Информаторий" (ц), можно БВИ
Он и есть.

Фактически, БЯМ, после достаточного развития, - технологически новый уровень интернета. "Веб 3.0", если угодно.

Локальная БЯМ у всех или просто общедоступная "личная" (личная в том смысле, в котором у нас есть личная почта с веб-интерфейсом) БЯМ - вопрос времени.

А написать в стартовом промпте (или просто сказать голосом "умной колонке") что-то типа
"найди мне самый дешёвый поводок для собаки со светодиодами, подзаряжаемый, типа чёрная кожа",
"что там у хохлов?",
"купи мне космическую стратегию Ева, максимум 2000р",
"скачай новые серии "МойСериал" с торрента, крикни, когда скачается",
"у таньки фотки с днбхи в ленте есть?"
гораздо легче, чем гуглить, бравзить, платить, ставить на комп самому. Я буду дико удивлён, если такого вдруг почему-то не появится. Не могу даже представить, почему такого может не случиться.

Личное посещение сайтов по HTTP останется либо для гиков, либо для отвественных дел, либо для каких-то особых случаев и дел с "отсталыми, дикими людьми"©. Примерно как сейчас личный визит живьём в какую-то контору для того чтоб цены спросить. Нет, ещё можно. Но зачем?

Татарин> А написать в стартовом промпте (или просто сказать голосом "умной колонке") что-то типа

более того, это видимо чисто вопрос времени (стоимости работы) когда поисковая выдача гугла и тп будет через LLM прогоняться, визуально для наблюдателя ничего и не изменится...

Татарин>> А написать в стартовом промпте (или просто сказать голосом "умной колонке") что-то типа
с.т.> более того, это видимо чисто вопрос времени (стоимости работы) когда поисковая выдача гугла и тп будет через LLM прогоняться, визуально для наблюдателя ничего и не изменится...
У меня уже сейчас сбоку гугл-выдачи висит плагин, который прогоняет запрос через бесплатную ЧатГопоту.
Пока редко, но помогает, потому что если ищешь что-то совсем вне своих понятий, суммари самого главного видишь сразу.

Но это, при всей технической схожести, не совсем то. Или даже совсем не то. Гугл знает и помнит слишком мало контекста, чтобы быть по-настоящему полезным.
Нужен именно личный дивайс, который знает и помнит твой личный контекст. Ну, чтобы понимать, у какой "таньки" и где именно "в ленте" искать "фотки".
И откуда предпочтительно качать твои сериалы, например. Гугл насчёт сериалов тебя просто в Нетфликс пошлёт, а насчёт таньки пошлёт сразу в столько адресов, что это по сути будет то же "на.уй", только многословно.

Татарин> Нужен именно личный дивайс, который знает и помнит твой личный контекст. Ну, чтобы понимать, у какой "таньки" и где именно "в ленте" искать "фотки".

ты недооцениваешь желание гугля тебя узнать

достаточно сказать жене - а может нам купить новый диван - и гугл начинает показывать мебель из всех щелей где его выдача есть. "личная коммункация с каждым в его микромоменты" © и тп и тд...

Татарин>> Нужен именно личный дивайс, который знает и помнит твой личный контекст. Ну, чтобы понимать, у какой "таньки" и где именно "в ленте" искать "фотки".
с.т.> ты недооцениваешь желание гугля тебя узнать
О! Я вполне способен это оценить. Но проблема в нём в том, что он гораздо больше обо мне знает, чем может показать, что знает.

Как впарить что-нить - так это вот запросто, да. А вот как запомнить контекст поисков и выдать результат с учётом предыдущего - так не. Не видел, не помню, не состоял, не привлекался, вот GDPR user agreement's compliance, прочитайте.

Пользователю нужна система, про которую явно и официально можно признать, что она помнит и знает о нём всё, что он когда-либо делал за компом, и пользователь был бы насчёт неё спокоен. Я не говорю о том, насколько это спокойствие будет оправдано, я лишь о факте доверия пользователя системе и способности системы открыто для пользователя обрабатывать все запросы с учётом контекста.
Без этого полезности минимум. (И вообще, ситуация идиотская: все про меня знают всё, но использовать это мне на пользу не хотят, потому что иначе я узнаю то, что они про меня знают всё. Я даже знаю, что они про меня знают всё, и они знают, что я это знаю. Но признаться в этом знании о моём знании об их знании им тоже нельзя. )

Татарин> Пользователю нужна система, про которую явно и официально можно признать, что она помнит и знает о нём всё, что он когда-либо делал за компом, и пользователь был бы насчёт неё спокоен. Я не говорю о том, насколько это спокойствие будет оправдано, я лишь о факте доверия пользователя системе и способности системы открыто для пользователя обрабатывать все запросы с учётом контекста.

ну вот гугловский AI-ассистент на андройде и решит эту проблему...а если ещё это будет chrome браузер...

детали User Agreement ещё дорабатывают