
Все эти DNN, трансформеры, вот это вот всё – конечно, впечатляет. Картинки рисуют, тексты генерят, котиков распознают лучше тебя. Но давайте честно: это узкий AI. AGI там и рядом не валялся. И вот вопрос – а валяться ли будет вообще?
Смотрим на железо. На чем вся эта нейросетевая магия крутится? На старом добром фон Неймане. Да, разогнанном на GPU и TPU, но суть та же: процессор, память, шина. И тут начинаются проблемы, которые как-то стыдливо замалчиваются в техно-оптимистическом угаре:
1. Энергоэффективность – в жопе. Модели раздуваются до размеров черной дыры, жрут электричество как майнинговая ферма. Человеческий мозг, блин, 20 ватт потребляет! FLOPS/ватт у нас – смех один. Мы вообще сможем когда-нибудь запитать AGI, не построив персональную АЭС? Или так и будем топить планету ради "разума"?
2. Фон Нейман – это bottleneck. Память и процессор разделены. Memory latency, cache misses, сериализация операций – это всё тормозит параллелизм, который вроде как нужен для настоящего интеллекта. Мозг – это нейроморфная сеть, где память и вычисления интегрированы. А у нас – постоянное перетаскивание данных туда-сюда. Не упремся ли мы в фундаментальный предел архитектуры, даже если кремний станет быстрее в 100 раз?
3. Кремний – всё? Moore's Law уже не торт. Квантовое туннелирование, тепловыделение, атомные масштабы – физика начинает упираться. Может, кремниевые транзисторы – это вообще тупиковая ветвь для AGI? Нужны новые материалы, новые принципы. Мемристоры, фотонные компьютеры, квантовые вычисления – это пока всё на уровне лабораторных экспериментов. Или мы так и будем долбиться в кремниевую стену, ожидая чуда?
4. Data movement is the new compute. В современных архитектурах перемещение данных жрет больше энергии, чем сами вычисления! Это вообще дичь какая-то. Мы гонимся за FLOPS, а на самом деле у нас проблема в пропускной способности памяти и эффективности передачи данных.
А теперь про алгоритмы. Тут тоже не всё так радужно, как в презентациях Google и OpenAI:
1. DNN – это тупо pattern matching. Да, сложное, многослойное, но всё равно – статистические корреляции, а не понимание. Они не понимают смысл, не имеют common sense, не умеют обобщать по-настоящему. Это попугаи, которые научились имитировать разум, но не более.
2. Backpropagation – это костыль. Эффективно для обучения глубоких сетей, но биологически неправдоподобно и, возможно, не масштабируется до AGI. Мозг учится по-другому, более эффективно и гибко. Backprop требует огромных датасетов, точно размеченных данных, и плохо работает в условиях неопределенности и неполной информации, которые характерны для реального мира. Может, мы зациклились на этом методе, и упускаем что-то принципиально другое?
3. Отсутствие настоящего "понимания" и "сознания". Да, это философский холивар, но и практический вопрос. Современный AI – это black box. Мы не понимаем, как он "думает", почему принимает те или иные решения. Нет интроспекции, самосознания, мотивации, целеполагания – всего того, что мы считаем признаками настоящего интеллекта. Может, AGI требует не просто более мощных сетей, а принципиально новой парадигмы в понимании интеллекта и сознания?
И вот, собственно, главный вопрос: Где сейчас реальный капкан для AGI? Мы уперлись в железный потолок – ограничения архитектуры фон Неймана, энергопотребления, кремниевой технологии? Или мы зашли в алгоритмический тупик – исчерпали возможности DNN и backpropagation, и нуждаемся в революционно новых подходах к обучению и моделированию интеллекта?
Или, может, проблема комплексная? Может, для AGI нужен синергетический прорыв – одновременная революция и в железе, и в софте, и в нашем понимании самого интеллекта? Может, мы вообще идем не туда, и AGI – это несбыточная мечта, по крайней мере, в обозримом будущем?
Высказывайтесь, эксперты и сочувствующие. Только без вайтишников и крипто-энтузиастов, пожалуйста. Интересует мнение тех, кто реально понимает, где мы сейчас находимся и куда движемся в этой гонке за AGI. И главное – где нас ждет реальный облом? (и будет ли он?)
четких цифр нет, но можно прикинуть по-разному, хотя это все очень условно:
по железу:
flops: говорят, мозг где-то 10^16 flops. вот если ии догонит или перегонит - типа звоночек. но это очень грубо.
энергоэффективность: если ии будет делать сложные штуки, жря как мозг (20 ватт), это круто. сейчас жрут намного больше.
по алгоритмам/возможностям:
прохождение сложных тестов: не просто тупой тест тьюринга, а что-то прям сложное, на понимание, творчество, типа экзамен в универе или научную статью написать. но как это численно измерить - непонятно.
самообучение и улучшение: если ии сможет сам себя улучшать быстрее, чем люди, и это будет ускоряться - вот это может быть признак. но скорость "улучшения" тоже не очень-то цифра.
количество задач, которые ии решает лучше человека: сейчас ии хорош в узких вещах. если станет во всем лучше или во многих областях - это тоже намек. но "многие области" - это не цифра.
скорость технологического прогресса: если после появления ии технологии начнут развиваться слишком быстро, непонятно как и куда - типа сингулярность подстегнула. но это уже после факта, а не критерий заранее.
появление "сознания" у ии: если вдруг поймем, что ии чувствует или осознает себя - это вообще жесть. но как это измерить цифрами - вообще бред.
как я понял, численных критериев нет нормальных. это все пальцем в небо, просто попытки как-то ощутить приближение чего-то большого и непонятного. никто точно не скажет "вот, 10^17 flops - и все, сингулярность!". скорее, это будет понятно по ощущениям, когда мир вокруг начнет меняться слишком быстро и непонятно из-за ии. но это не цифры, а скорее "ой, что-то пошло не так, кажется, началось".

Ну если четких цифр нет, то тогда и говорить не о чем. Нужны конкретные численные критерии. Как их выводить — вопрос отдельный, но если их нет и нет понимания как их получить, то от так называемой "сингулярности" мы стоим ещё очень далеко. Определения понятия сингулярности не увидел. Весь пост про ИИ: мы про ИИ говорим или про сингулярность? Что такое сингулярность?
У мухи-дрозофиллы мозгов больше, чем у нейронки.
Просто потому что помимо собственно сложнейшей задачи хождения он решает в реальном мире вопрос с его взаимодействием. И принимает НОВЫЕ решения. Чего обычной нейронке - как до Луны - раком.
разумеется возможна, сингулярность это квалия
Я не специалист по АИ, но с моей точки зрения до AGI ещё как до Луны пешком.
Собственно, это же не первая и даже не вторая волна AI, каждая из них давала что-то новое, и каждая заканчивалась обломом. Нет особых оснований ждать в этот раз другого результата.
Алгоритмы говно, железо говно.

1280x720, 0:49
тогда можно и спокойно ркн, ведь AGI - это единственное, что мне давало надежду жить
много тезисов - ответ один
курица в состоянии сама о себе позаботиться
искин пока нет, и вряд ли когда нибудь
вот и всё
Почему AGI? И зачем она тебе? У нас 8 миллиардов естественных интеллектов есть, чем они тебя не устраивают?
пусть она сама с себя придумывает
базовик
> И вот вопрос – а валяться ли будет вообще?
Будет. Когда мы по сути "по образу и подобию" создадим искусственного "человека". И тут мы возвращаемся к классике.
"Объясните мне, пожалуйста, зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно!"
https://www.youtube.com/watch?v=Md-hp4ddvkM
>Ну если четких цифр нет, то тогда и говорить не о чем.
У жизни дохуя чётких цифр? У разума дохуя? Формализовать часто намного сложнее, чем решить, мы не в учебнике математики живём.
Ты педераст или хуесос? Может, тебе и Перельмана с Тао и Нейманом любая родит, сразу троих, готовых к работе?

>У жизни дохуя чётких цифр?
Жизнь это одни сплошные цифры, начиная уже с генетического кода в ДНК.
>У разума дохуя?
Да. На базе этих цифр составлена модель персептрона Розенблаттом в 1957 году.
>Формализовать часто намного сложнее, чем решить, мы не в учебнике математики живём.
Тут работает принцип декомпозиции. Если теория не формализуется, значит она слишком сложная. То есть, её надо разделить на несколько более простых и формализовать их по частям. Иначе это не наука, а интуиция, философия и софистика.
>Если теория не формализуется, значит она слишком сложная. То есть, её надо разделить на несколько более простых и формализовать их по частям. Иначе это не наука, а интуиция, философия и софистика.
А шиз в стационаре, привязаный к кровати, в его картине мира все предметы поделены на части, головы бегают по коридору отдельно от рук — он, я так понимаю, учёный, правильно?
Шагом марш читать азы:
https://ru.wikipedia.org/wiki/Логика_научного_исследования
>А шиз в стационаре, привязаный к кровати, в его картине мира все предметы поделены на части, головы бегают по коридору отдельно от рук — он, я так понимаю, учёный, правильно?
Шиз может быть учёным, а может и не быть. А описанное тобой деление по научным специальностям вполне научно и общепринято. Выражаясь твоим вульгарным языком "головы бегают по коридору отдельно от рук" это специальность 1.5.24. Нейробиология.
>Шагом марш читать азы: https://ru.wikipedia.org/wiki/Логика_научного_исследования
Так Поппер почти во всём не прав. Какие это азы? Заявляя, что наука имеет дело с объективными явлениями и способна к реальным открытиям, он в то же время отрицает, что наука постигает истину. Дремучий идеалист, распиаренный за критику марксизма в эпоху холодный войны своими родственниками: еврейскими банкирами. Ну ты и говноед, братишка.
>Шиз может быть учёным, а может и не быть. А описанное тобой деление по научным специальностям вполне научно и общепринято. Выражаясь твоим вульгарным языком "головы бегают по коридору отдельно от рук" это специальность 1.5.24. Нейробиология.
Господин учёный анон находится на амбулаторном лечении?
>Заявляя, что наука имеет дело с объективными явлениями и способна к реальным открытиям, он в то же время отрицает, что наука постигает истину.
Для начала ты должен пруфнуть, хотя бы самому себе, что ты прямо сейчас не лежишь в смирительной рубашке в мягкой комнате и тебе не мерещится общение на дваче, после чего ты громко сообщаешь санитарам, что познал истину.

>Господин учёный анон находится на амбулаторном лечении?
Я пока что нет. На счёт тебя не уверен. Но ты и не учёный, так-то. Ты же даже базовой философией не владеешь, что будет видно ниже. То есть в аспирантуре не учился и кандидатские не сдавал.
>Для начала ты должен пруфнуть, хотя бы самому себе, что ты прямо сейчас не лежишь в смирительной рубашке в мягкой комнате и тебе не мерещится общение на дваче, после чего ты громко сообщаешь санитарам, что познал истину.
Это классический пример софизма в стиле "докажи, что ты не рогат". Две тысячи лет развития формальной логики прошли мимо тебя..
>Не упремся ли мы в фундаментальный предел архитектуры, даже если кремний станет быстрее в 100 раз?
Упоремся. Компьютер это неидеальная вычислительная машина.
Скоро создадут мега-мозг с идеальной архитектурой или примитивные квантовые компьютеры с тоже идеальной архитектурой. Если я правильно понимаю, будет создана примитивная схема без перетаскивания даных туда сюда.
Это если просто пояснить. Сам не очень разбираюсь в компьютерах но очень интересуюсь созданием личного компьютера.
Квантовые нейросети - это звучит не столько футуристично, сколько реалистично. Квантовые процессоры уже есть. На реальных квантах или на топологических кубитах, вообще поебать. Нейросети тоже есть. Ну а квантовые нейросети - это как-бы то, что следует из. Если конечно из этого не следует ещё и их биосовместимость. Всегда хотел себе какой-нить ALU хотя-бы, чтобы не считать в столбик, блядь, и на пальцах. Но нейронки, пока, это хуета хует. Потому что неоднозначность. В распознавании образов, да, они годные, и быстро решают эти задачи. Типа машинное зрение, и тому подобное.
Однако, стоит попросить нейросеть провести какие-нибудь рассчёты не особо мудрёные, и она начнёт ебать мозги и всё делать не так как надо, как маленький ребёнок, и придётся пояснять и уточнять, и всё равно результат будет не ахти.
Чтобы этой неоднозначности не было, нужно чтобы нейросети работали с формальными языками. То есть сначала чтобы распознавали условие задачи, затем его формализовывали условие задачи, а потом решали её. Но внезапно, формальные языки распознаются компьютером. Для этого он и был создан.
А вообще, чтобы убрать неоднозначность нейросетей, наверняка было бы возможно представлять комбинации весовых коэффициентов в виде булевых функций, а их потом выполнять логически. То есть задача обучения нейросети, сводилась бы к подбору соответствующего номера булевой функции из пиздатого множества всевозможных, и не более того.
Но тогда, вся эта нейросетевая непрерывность и аналоговость - попросту идёт по пизде, превращаясь в ту или иную степень дискретности высокоточных и безошибочных ёба-вычислений. Да и поделом, не?
Ты педераст и хуесос. Роди хотя-бы Спинозу для начала,хотя-бы одного, готового к работе. Не можешь? Вот и захлопни ебальник.