>>20461 (OP)
Я тут некоторое время изучаю матчасть по нейросетям, и сделал для себя фундаментальное открытие:
Дело в том, что распространено заблуждение, что у человека в мозгу одна нейросеть. Чуть позже, годах в 70х возникло уточнение, что их там две, по одной в каждом полушарии, но это как я выяснил, тоже заблуждение. На самом деле в мозгу множество нейросетей, каждая отвечает за свою обработку сигнала. Часть из них дублируется между полушариями, другая часть - не дублируется, что чаще всего можно заметить после инсульта.
Короче, вот вы понимаете, аноны, я вскрыл фундаментальную ошибку в проектировании искусственного интеллекта. Многие популяризаторы науки стращают народ тем, что якобы вот мы изобретём ИИ, а он нас уничтожит. Это ошибка, базирующаяся на вышеописанном фундаментальном недопонимании работы мозга.

Учёные думают, что в будущем может быть изобретён эдакий думающий разум внутри машины. Моё же видение будущего (с полным пониманием безблагодатности футурологии) в том, что интеллектуальные способности человечества будут расти, но не за счёт появления искусственных личностей, вступающих во взаимную конкуренцию с естественными личностями, а за счёт модульной расширяемости наших с вами естественных личностей. Будут совершенствоваться нейроинтерфейсы, и с их помощью мы будем подключать и отключать себе специализированные нейросети, когда нам это будет требоваться. В том числе искусственные нейросети. Себе. В моск. Да. Проще всего это описать знаменитыми словами из фильма "Матрица" - "Вау, я знаю кунг-фу!"

Например, садишься в автомобиль, там беспроводной нейроинтерфейс с нейросетью вождения. Подключившись к нему, ты начинаешь осознавать автомобиль, как часть своего тела. Можешь управлять поворотом колёс, словно поворотами шеи. А так же скоростью движения, тормозами, поворотниками, стеклоподъёмниками. Нейроавтомобилю не нужно будет лобовое окно, сенсоры и видеокамеры, через встроенную нейросеть будут выдавать тебе совместимый с твоим мозгом оптический сигнал глазного нерва так, что ты естественным образом будешь видеть и ощущать ситуацию вокруг автомобиля.

И это только самый простой пример, так сказать, потребительский. А ведь подключаемые нейросети будут юзать учёные и изобретать изобретения по КД. Вот вам и пресловутая технологическая сингулярность. И в ней отсутствует главная страшилка 20 века - самоосознающий ИИ-человеконенавистник.

>>20940

>Почему?

Это очень долгая история, Пенроуз 600 страниц написал. Но если по-простому, то вот.

Начинается всё с теоремы Гёделя о неполноте, которая говорит, что в любой достаточно сложной непротиворечивой системе аксиом (достаточно, чтобы она включала формальную арифметику) существует недоказуемое (и неопровержимое, конечно) утверждение. Более того, доказательство этой теоремы конструктивно в том смысле, что это утверждение строится в явном виде и является истинным по построению.

Другими словами, для любой достаточно обширной системы аксиом существует утверждение, про которое мы точно знаем, что оно истинно в рамках этой системы, но в рамках этой же системы доказать мы его не можем.

Это суть теоремы Гёделя о неполноте. И сама эта теорема говорит об ограничениях возможностей любой универсальной машины Тьюринга, потому что теорема Тьюринга о неразрешимости проблемы останова является просто переформулировкой теоремы Гёделя о неполноте.

Идеолог концепции Сильного ИИ и Технологической Сингулярности Рэй Курцвейл, в свою очередь, считал, что в этом никаких проблем нет. Якобы, компьютер ограничен теоремой Гёделя, мозг тоже ограничен теоремой Гёделя, никаких проблем нет.

Важно понимать, что на самом деле самой по себе теоремы Гёделя недостаточно, чтобы сделать вывод о способностях мозга, и, далее, о соотношении способностей мозга человека и компьютера.
Здесь необходим ещё один фундаментальный шаг, и именно этот шаг сделал Пенроуз.

Пенроуз доказал, что мозг не является компьютером, когда нашёл способность человеческого мозга, которую никакой классический компьютер (машина Тьюринга) воспроизвести не способен в принципе.

Далее будет доказательство в очень простой (даже обманчиво простой) формулировке.
Сам Пенроуз двигался немного другим и гораздо более сложным, но при этом и гораздо более строгим, путём.

1... Короче, предположим, что некая машина Тьюринга является Сильным ИИ (т.е. обладает всеми интеллектуальными способностями (гениального) мозга).
2... Тогда любой математик-человек с помощью теоремы Гёделя может построить истинное утверждение для данной машины, проверить истинность которого сама машина не в состоянии (опять же в силу теоремы Гёделя). Для самого человека эта истинность ясна в силу его математического понимания.
3... Таким образом, предположив, что компьютер обладает всеми способностями мозга, мы практически сразу указываем на способность мозга, которой этот компьютер не обладает.
4... Это противоречие. Следовательно, этот Сильный ИИ на основе классического компьютера не может существовать.

Я понимаю, что это доказательство выглядит бредом, но это не бред. Это формулировка максимально простыми словами.
Как я уже сказал, у Пенроуза всё гораздо более формально и строго. И сам Пенроуз разбирает штук 20 "возражений" против доказательства.

Условно говоря, он предполагает, что способ математических рассуждений человека является алгоритмом (что остальные люди интуитивно считают самим собой разумеющимся, и даже не задумываются об этом), и с помощью теоремы Гёделя приходит к противоречию.

Таким образом, Пенроуз заключает, что мозг в результате эволюции начал использовать эффекты невычислительной физики.
Т.е. процессы, которые принципиально невозможно описать в виде алгоритма (или, что то же самое, в виде вывода в формальной аксиоматической системе).

Т.е. это самое "понимание" математиком-человеком теоремы Гёделя само по себе так или иначе сводится к невычислимому процессу, протекающему в мозге.

Ещё до доказательства Пенроуз показал, что в невычислительных физических процессах нет ничего невозможного, а после доказательства показал, что вся известная физика является вычислительной.

Главным претендентом на невычислительную физическую теорию Пенроуз считает ещё не достроенную до конца квантовую теорию гравитации.
Для вычисления амплитуды взаимодействия в КТГ необходимо просуммировать по всем четырёхмерным топологическим формам пространства. Но данная задача алгоритмически неразрешима.

Следовательно, если КТГ верна, Природа умеет решать (по крайней мере некоторые) алгоритмически неразрешимые задачи!

И таким образом, человеческий мозг в результате эволюции научился использовать невычислительные процессы квантовой гравитации.
И чтобы создать полноценный Сильный ИИ, нужно создать квантово-гравитационный компьютер. Т.е. компьютер, который будет оснащён "чёрным ящиком", в котором будут происходить квантово-гравитационные эксперименты над соответствующими процессами. Думаю, это произойдёт не скоро, мягко говоря.

Такие дела...

Прикол, однако, в том, что многочисленные критики Пенроуза, судя по всему, даже не удосужились прочитать его книгу.
Минимум половина критиков исходит из того, что Пенроуз, якобы, утверждает, что мозг является квантовым компьютером, что полный бред.
Другая половина в принципе не понимает, при чём там теорема Гёделя. Даже великий Хокинг так облажался.

>>21031

>Но, во-первых, у человека мозг это не квантовый компьютер,

Согласен. Он, судя по всему, квантово-гравитационный.

> во-вторых, квантовых компов в мире уже дохуя, что в Китае, что в том же самом гугле.

Они очень слабые до сих пор. Мощные, которые ты, возможно, имеешь в виду, это и вовсе не универсальные квантовые компы, а всего лишь "машины квантового отжига", т.е. устройства, способные решать одну-единственную параметрическую оптимизационную задачу. В любом случае это не важно.