meme-pepe (5).jpg496 Кб, 1024x1024
А возможна ли сингулярность? 598309 В конец треда | Веб
Аноны-эксперты, слезли с хайп-трейна? Надоело слушать про "скоро сингулярность" от очередного инфоцыгана? Давайте по хардкору, без розовых пони и влажных фантазий про Skynet.

Все эти DNN, трансформеры, вот это вот всё – конечно, впечатляет. Картинки рисуют, тексты генерят, котиков распознают лучше тебя. Но давайте честно: это узкий AI. AGI там и рядом не валялся. И вот вопрос – а валяться ли будет вообще?

Смотрим на железо. На чем вся эта нейросетевая магия крутится? На старом добром фон Неймане. Да, разогнанном на GPU и TPU, но суть та же: процессор, память, шина. И тут начинаются проблемы, которые как-то стыдливо замалчиваются в техно-оптимистическом угаре:

1. Энергоэффективность – в жопе. Модели раздуваются до размеров черной дыры, жрут электричество как майнинговая ферма. Человеческий мозг, блин, 20 ватт потребляет! FLOPS/ватт у нас – смех один. Мы вообще сможем когда-нибудь запитать AGI, не построив персональную АЭС? Или так и будем топить планету ради "разума"?

2. Фон Нейман – это bottleneck. Память и процессор разделены. Memory latency, cache misses, сериализация операций – это всё тормозит параллелизм, который вроде как нужен для настоящего интеллекта. Мозг – это нейроморфная сеть, где память и вычисления интегрированы. А у нас – постоянное перетаскивание данных туда-сюда. Не упремся ли мы в фундаментальный предел архитектуры, даже если кремний станет быстрее в 100 раз?

3. Кремний – всё? Moore's Law уже не торт. Квантовое туннелирование, тепловыделение, атомные масштабы – физика начинает упираться. Может, кремниевые транзисторы – это вообще тупиковая ветвь для AGI? Нужны новые материалы, новые принципы. Мемристоры, фотонные компьютеры, квантовые вычисления – это пока всё на уровне лабораторных экспериментов. Или мы так и будем долбиться в кремниевую стену, ожидая чуда?

4. Data movement is the new compute. В современных архитектурах перемещение данных жрет больше энергии, чем сами вычисления! Это вообще дичь какая-то. Мы гонимся за FLOPS, а на самом деле у нас проблема в пропускной способности памяти и эффективности передачи данных.
А теперь про алгоритмы. Тут тоже не всё так радужно, как в презентациях Google и OpenAI:

1. DNN – это тупо pattern matching. Да, сложное, многослойное, но всё равно – статистические корреляции, а не понимание. Они не понимают смысл, не имеют common sense, не умеют обобщать по-настоящему. Это попугаи, которые научились имитировать разум, но не более.

2. Backpropagation – это костыль. Эффективно для обучения глубоких сетей, но биологически неправдоподобно и, возможно, не масштабируется до AGI. Мозг учится по-другому, более эффективно и гибко. Backprop требует огромных датасетов, точно размеченных данных, и плохо работает в условиях неопределенности и неполной информации, которые характерны для реального мира. Может, мы зациклились на этом методе, и упускаем что-то принципиально другое?

3. Отсутствие настоящего "понимания" и "сознания". Да, это философский холивар, но и практический вопрос. Современный AI – это black box. Мы не понимаем, как он "думает", почему принимает те или иные решения. Нет интроспекции, самосознания, мотивации, целеполагания – всего того, что мы считаем признаками настоящего интеллекта. Может, AGI требует не просто более мощных сетей, а принципиально новой парадигмы в понимании интеллекта и сознания?

И вот, собственно, главный вопрос: Где сейчас реальный капкан для AGI? Мы уперлись в железный потолок – ограничения архитектуры фон Неймана, энергопотребления, кремниевой технологии? Или мы зашли в алгоритмический тупик – исчерпали возможности DNN и backpropagation, и нуждаемся в революционно новых подходах к обучению и моделированию интеллекта?

Или, может, проблема комплексная? Может, для AGI нужен синергетический прорыв – одновременная революция и в железе, и в софте, и в нашем понимании самого интеллекта? Может, мы вообще идем не туда, и AGI – это несбыточная мечта, по крайней мере, в обозримом будущем?

Высказывайтесь, эксперты и сочувствующие. Только без вайтишников и крипто-энтузиастов, пожалуйста. Интересует мнение тех, кто реально понимает, где мы сейчас находимся и куда движемся в этой гонке за AGI. И главное – где нас ждет реальный облом? (и будет ли он?)
2 598310
бамп
953906original.jpg261 Кб, 1000x608
3 598311
>>8309 (OP)
Что такое сингулярность? Каковы её численные критерии?
# OP 4 598312
>>8311
четких цифр нет, но можно прикинуть по-разному, хотя это все очень условно:

по железу:

flops: говорят, мозг где-то 10^16 flops. вот если ии догонит или перегонит - типа звоночек. но это очень грубо.
энергоэффективность: если ии будет делать сложные штуки, жря как мозг (20 ватт), это круто. сейчас жрут намного больше.

по алгоритмам/возможностям:

прохождение сложных тестов: не просто тупой тест тьюринга, а что-то прям сложное, на понимание, творчество, типа экзамен в универе или научную статью написать. но как это численно измерить - непонятно.

самообучение и улучшение: если ии сможет сам себя улучшать быстрее, чем люди, и это будет ускоряться - вот это может быть признак. но скорость "улучшения" тоже не очень-то цифра.

количество задач, которые ии решает лучше человека: сейчас ии хорош в узких вещах. если станет во всем лучше или во многих областях - это тоже намек. но "многие области" - это не цифра.

скорость технологического прогресса: если после появления ии технологии начнут развиваться слишком быстро, непонятно как и куда - типа сингулярность подстегнула. но это уже после факта, а не критерий заранее.

появление "сознания" у ии: если вдруг поймем, что ии чувствует или осознает себя - это вообще жесть. но как это измерить цифрами - вообще бред.

как я понял, численных критериев нет нормальных. это все пальцем в небо, просто попытки как-то ощутить приближение чего-то большого и непонятного. никто точно не скажет "вот, 10^17 flops - и все, сингулярность!". скорее, это будет понятно по ощущениям, когда мир вокруг начнет меняться слишком быстро и непонятно из-за ии. но это не цифры, а скорее "ой, что-то пошло не так, кажется, началось".
e398d17bfd6df30b905ff982ba1eac14.jpg43 Кб, 720x720
5 598314
>>8312
Ну если четких цифр нет, то тогда и говорить не о чем. Нужны конкретные численные критерии. Как их выводить — вопрос отдельный, но если их нет и нет понимания как их получить, то от так называемой "сингулярности" мы стоим ещё очень далеко. Определения понятия сингулярности не увидел. Весь пост про ИИ: мы про ИИ говорим или про сингулярность? Что такое сингулярность?
6 598322
А кто собственно, кроме журналистов и науч-попа ждет от нейросетей появление искусственного интеллекта? Ни один нейро биолог, ни один кибернетик всерьез не рассматривает данную технологию на претендента в ожидаемом будующем рождения интеллекта. Его там нет, не было и не будет.
У мухи-дрозофиллы мозгов больше, чем у нейронки.
7 598329
На мой взгляд (субьективный) искусственный интеллект возможно когда то вырастет из технологий роботов Darpa. они уже создали невозможное и казавшееся фантастикой - самостоятельно ходящего на двух ногах робота (я думаю именно эта веха войдет в историю, а не сраные модные нейросетки) Автономно ходящий робот на двух ногах - это действительно фантастика и первый шаг к ИИ.
Просто потому что помимо собственно сложнейшей задачи хождения он решает в реальном мире вопрос с его взаимодействием. И принимает НОВЫЕ решения. Чего обычной нейронке - как до Луны - раком.
8 598330
>>8309 (OP)
разумеется возможна, сингулярность это квалия
9 598331
>>8309 (OP)
Я не специалист по АИ, но с моей точки зрения до AGI ещё как до Луны пешком.
Собственно, это же не первая и даже не вторая волна AI, каждая из них давала что-то новое, и каждая заканчивалась обломом. Нет особых оснований ждать в этот раз другого результата.

Алгоритмы говно, железо говно.
17295130587440.mp416,3 Мб, mp4,
1280x720, 0:49
10 598333
>>8331
тогда можно и спокойно ркн, ведь AGI - это единственное, что мне давало надежду жить
11 598342
>>8309 (OP)
много тезисов - ответ один

курица в состоянии сама о себе позаботиться
искин пока нет, и вряд ли когда нибудь

вот и всё
12 598344
>>8333
Почему AGI? И зачем она тебе? У нас 8 миллиардов естественных интеллектов есть, чем они тебя не устраивают?
13 598368
>>8311

>Что такое сингулярность? Каковы её численные критерии?


в сингулярности математика идет нахуй
14 598370
>>8368
Значит это ненаучный термин и его надо обсуждать в /ph
изображение.png1,1 Мб, 900x684
15 598391
>>8344
Хоть один покажи.
16 598394
>>8370
Может быть тупо модель перестает работать. Нужно придумать новую.
17 598395
>>8394
пусть она сама с себя придумывает
18 598411
>>8391
базовик
sage 19 599066
>>8309 (OP)

> И вот вопрос – а валяться ли будет вообще?


Будет. Когда мы по сути "по образу и подобию" создадим искусственного "человека". И тут мы возвращаемся к классике.

"Объясните мне, пожалуйста, зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно!"

https://www.youtube.com/watch?v=Md-hp4ddvkM
20 599109
>>8314

>Ну если четких цифр нет, то тогда и говорить не о чем.


У жизни дохуя чётких цифр? У разума дохуя? Формализовать часто намного сложнее, чем решить, мы не в учебнике математики живём.
21 599110
>>9066
Ты педераст или хуесос? Может, тебе и Перельмана с Тао и Нейманом любая родит, сразу троих, готовых к работе?
IMG20250315125952738.jpg122 Кб, 935x1280
22 599134
>>9109

>У жизни дохуя чётких цифр?


Жизнь это одни сплошные цифры, начиная уже с генетического кода в ДНК.

>У разума дохуя?


Да. На базе этих цифр составлена модель персептрона Розенблаттом в 1957 году.

>Формализовать часто намного сложнее, чем решить, мы не в учебнике математики живём.


Тут работает принцип декомпозиции. Если теория не формализуется, значит она слишком сложная. То есть, её надо разделить на несколько более простых и формализовать их по частям. Иначе это не наука, а интуиция, философия и софистика.
23 599135
>>9134

>Если теория не формализуется, значит она слишком сложная. То есть, её надо разделить на несколько более простых и формализовать их по частям. Иначе это не наука, а интуиция, философия и софистика.


А шиз в стационаре, привязаный к кровати, в его картине мира все предметы поделены на части, головы бегают по коридору отдельно от рук — он, я так понимаю, учёный, правильно?
Шагом марш читать азы:
https://ru.wikipedia.org/wiki/Логика_научного_исследования
24 599139
>>9135

>А шиз в стационаре, привязаный к кровати, в его картине мира все предметы поделены на части, головы бегают по коридору отдельно от рук — он, я так понимаю, учёный, правильно?


Шиз может быть учёным, а может и не быть. А описанное тобой деление по научным специальностям вполне научно и общепринято. Выражаясь твоим вульгарным языком "головы бегают по коридору отдельно от рук" это специальность 1.5.24. Нейробиология.

>Шагом марш читать азы: https://ru.wikipedia.org/wiki/Логика_научного_исследования


Так Поппер почти во всём не прав. Какие это азы? Заявляя, что наука имеет дело с объективными явлениями и способна к реальным открытиям, он в то же время отрицает, что наука постигает истину. Дремучий идеалист, распиаренный за критику марксизма в эпоху холодный войны своими родственниками: еврейскими банкирами. Ну ты и говноед, братишка.
25 599143
>>599140 →

>Шиз может быть учёным, а может и не быть. А описанное тобой деление по научным специальностям вполне научно и общепринято. Выражаясь твоим вульгарным языком "головы бегают по коридору отдельно от рук" это специальность 1.5.24. Нейробиология.


Господин учёный анон находится на амбулаторном лечении?

>Заявляя, что наука имеет дело с объективными явлениями и способна к реальным открытиям, он в то же время отрицает, что наука постигает истину.


Для начала ты должен пруфнуть, хотя бы самому себе, что ты прямо сейчас не лежишь в смирительной рубашке в мягкой комнате и тебе не мерещится общение на дваче, после чего ты громко сообщаешь санитарам, что познал истину.
12153001000.jpg123 Кб, 539x737
26 599166
>>9143

>Господин учёный анон находится на амбулаторном лечении?


Я пока что нет. На счёт тебя не уверен. Но ты и не учёный, так-то. Ты же даже базовой философией не владеешь, что будет видно ниже. То есть в аспирантуре не учился и кандидатские не сдавал.

>Для начала ты должен пруфнуть, хотя бы самому себе, что ты прямо сейчас не лежишь в смирительной рубашке в мягкой комнате и тебе не мерещится общение на дваче, после чего ты громко сообщаешь санитарам, что познал истину.


Это классический пример софизма в стиле "докажи, что ты не рогат". Две тысячи лет развития формальной логики прошли мимо тебя..
27 599246

>Не упремся ли мы в фундаментальный предел архитектуры, даже если кремний станет быстрее в 100 раз?


Упоремся. Компьютер это неидеальная вычислительная машина.
Скоро создадут мега-мозг с идеальной архитектурой или примитивные квантовые компьютеры с тоже идеальной архитектурой. Если я правильно понимаю, будет создана примитивная схема без перетаскивания даных туда сюда.
Это если просто пояснить. Сам не очень разбираюсь в компьютерах но очень интересуюсь созданием личного компьютера.
28 599466
>>9246
Квантовые нейросети - это звучит не столько футуристично, сколько реалистично. Квантовые процессоры уже есть. На реальных квантах или на топологических кубитах, вообще поебать. Нейросети тоже есть. Ну а квантовые нейросети - это как-бы то, что следует из. Если конечно из этого не следует ещё и их биосовместимость. Всегда хотел себе какой-нить ALU хотя-бы, чтобы не считать в столбик, блядь, и на пальцах. Но нейронки, пока, это хуета хует. Потому что неоднозначность. В распознавании образов, да, они годные, и быстро решают эти задачи. Типа машинное зрение, и тому подобное.
Однако, стоит попросить нейросеть провести какие-нибудь рассчёты не особо мудрёные, и она начнёт ебать мозги и всё делать не так как надо, как маленький ребёнок, и придётся пояснять и уточнять, и всё равно результат будет не ахти.
Чтобы этой неоднозначности не было, нужно чтобы нейросети работали с формальными языками. То есть сначала чтобы распознавали условие задачи, затем его формализовывали условие задачи, а потом решали её. Но внезапно, формальные языки распознаются компьютером. Для этого он и был создан.

А вообще, чтобы убрать неоднозначность нейросетей, наверняка было бы возможно представлять комбинации весовых коэффициентов в виде булевых функций, а их потом выполнять логически. То есть задача обучения нейросети, сводилась бы к подбору соответствующего номера булевой функции из пиздатого множества всевозможных, и не более того.
Но тогда, вся эта нейросетевая непрерывность и аналоговость - попросту идёт по пизде, превращаясь в ту или иную степень дискретности высокоточных и безошибочных ёба-вычислений. Да и поделом, не?
sage 29 599533
>>9110
Ты педераст и хуесос. Роди хотя-бы Спинозу для начала,хотя-бы одного, готового к работе. Не можешь? Вот и захлопни ебальник.
Обновить тред
« /sci/В начало тредаВеб-версияНастройки
/a//b//mu//s//vg/Все доски

Скачать тред только с превьюс превью и прикрепленными файлами

Второй вариант может долго скачиваться. Файлы будут только в живых или недавно утонувших тредах.Подробнее