Нейросети и сильный ИИ - замануха для лентяев?

Последнее десятилетие весьма сильно развились вычисления на основе нейросетей. С помощью них научились решать задачи в основном машинного зрения, ранее считавшиеся сложноразрешимыми.
Но когда люди увидели, на что способны нейросети, их начали пытаться применять везде, где только возможно - для анализа больших объёмов данных (для выявления закономерностей), для игр (шахматы и прочее), для синтеза текстов и т. д. Более того, применение нейросетей становится маркетинговым приёмом - продать что-то становится проще, если заявить, что там внутри есть нейросети.
У самых отъявленных адептов нейросетей вообще возникает желание реализовать через них заветных сильный ИИ, о котором мечтал ещё дедушка Тьюринг. В создании такого ИИ они видят священный грааль развития компьютерных наук, точку, после которой эти науки можно забросить и поручить их дальнейшее развитие этому самому ИИ.

Так вот, у меня есть некоторый скептицизм на этот счёт.
Уход в нейросети я вижу лишь попыткой сэкономить мозговые и денежные усилия на написание классических программ. Вместо того, чтобы разобраться в предметной области конкретной задачи, составить модель и написать по ней программу, нерадивые нейроскриптователи тупо берут модный нынче движок, скармливают ей какие-то данные и говорят, что дескать теперь всё решает ИИ. Такой подход вроде даже работает, но есть некоторые нюансы.
Во-первых, страдает объяснимость действий программы. Если она что-то вычислила, нельзя объяснить почему она пришла именно к такому результату. Это бывает критично, например, когда от решения программы зависит что-то важное, например, дать ли человеку кредит, отказать ли ему в помощи и т. д. Соответственно, в суде ты не опровергнешь решение нейросетевой программы.
Во-вторых, становится невозможным формально протестировать нейропрограмму. С классической программой всё просто - написал тесты на типичные и краевые случаи и можно гарантировать, что программа работает. В нейропрограммой всё не понятно, где там краевые случаи - не ясно. Когда же программа выдаёт результат, не соответствующий ТЗ, не понятно вообще, как чинить ошибку.
В-третьих, встаёт проблема обучения. Вместо составления формальной модели, как в случае с классической программой, просто накидывается набор каких-то размеченных данных. Данные размечают, ясное дело, кожаные ублюдки, со всеми их недостатками. В результате программа не вычисляет результат, а просто интерпретирует его на основе частных мнений немногих людей, что составляли обучающую выборку.
В-четвёртых, существуют проблемы нестабильности результата. Подача некоторого незначительного шума в исходные данные может существенном образом изменить результат. Почему так происходит - адепты нейросетей ответить не могут.
В-пятых, нейросети решают некоторые задачи с на порядки большими затратами вычислительных ресурсов, чем эквивалентные им классические программы. Почему это происходит, объяснять, думаю, не надо.

Так вот, возвращаясь к сильному ИИ. Если создадут что-то подобное с использованием нейросетей, получится программа, которая будет уметь всё (на то это и сильный ИИ), но делать она это будет очень плохо. При этом (см. пункт 5) эта программа будет требовать огромных вычислительных ресурсов. В результате получится аналог кожаного ублюдка, который умеет всё, но плохо (медленно, неточно). В виду таких качеств такая программа не будет иметь практической ценности, ибо дешевле будет нанять того же самого кожаного ублюдка, чем заменять его работу догорущим суперкомпьютером с очень неэффективной программой внутри.

Каков вердикт? Нейросети и ИИ - маркетинговая замануха и попытка сэкономить на программистах. Но рано или поздно будут в полной мере раскрыты недостатки нейросетей, после чего программисты вернутся к составлению классический программ. Мир будущего с полной автоматизацией труда будет построен на подобного рода программах, а про попытки создания ИИ будут вспоминать как про опыты алхимиков (трансмутацию, философский камень, гомункул и т. д.).

Panzerschrek[CN]
> Почему так происходит - адепты нейросетей ответить не могут.
В смысле не могут? Это ведь они и придумали как этот шум генерить.

> В результате получится аналог кожаного ублюдка, который умеет всё, но плохо
> (медленно, неточно).
Ну, как минимум это будет интересно с исследовательской точки зрения. Кроме того, его легче масштабировать. Программист "вдвое умнее" среднего индуса требует отнюдь не двухкратного повышения зарплаты, а вот суперкомпьютер можно будет смасштабировать до специалистов мирового топа и, что самое интересное, еще дальше. Даже если он не будет дешевле в обслуживании, профит от такого специалиста очевиден.

Panzerschrek[CN]
> Последнее десятилетие весьма сильно развились вычисления на основе нейросетей.
> С помощью них научились решать задачи в основном машинного зрения, ранее
> считавшиеся сложноразрешимыми.

Правда чтоли?

В целом, согласен с этим скептицизмом. Нейросети, конечно, технология полезная и эффективная при решении ряда задач, но революции (подобно той, что совершили пластмассы) она не сделает.

Panzerschrek[CN]
> Мир будущего с полной автоматизацией труда
А вот здесь я бы не стал проявлять излишнего оптимизма. Очень смахивает на рабовладельческое общество, но оно плохо кончило - деградировало и было утилизировано другими историческими формациями.

9 часов работы кластера гугла стоят на несколько порядков дешевле тысяч человеколет, угроханных в stockfish

В stockfish не только человеколеты вложены.
https://tests.stockfishchess.org/users

Games played: 2_584_296_719
CPU time: 4546.72 years 

Когда ИИ научат строить мотивацию к действиям, придумают наказание и правовую ответственность за результат, тогда, считай, все - человек не нужен. А пока что можете спать спокойно, работа всегда найдется.

Panzerschrek[CN]
> Так вот, у меня есть некоторый скептицизм на этот счёт.
Он оправдан. Если из нейросетей выкинуть мусор и немножко подправить обучение, то получится обычная архитектура фон Неймана...

Panzerschrek[CN]
> Нейросети и сильный ИИ - замануха для лентяев?
Именно так и есть. Причём не последнюю роль тут играет качественно вбитое в мозги дарвинистское учение, что, если закинуть в реактор мусора (кода, букв) и долго-долго трясти, то из этого самообразуется (самозапрограммируется, самонапишется) что-нибудь ужасающе полезное и могучее. Причём, если в природе оно (по легенде) самообразовывалось очень-очень долго, то в программировании нужное число итераций - как бы типа не проблема: вот щас накинем ещё мощностей, ещё клаудов на проблему напустим, ещё квантовые компуктеры изобетём и их тоже напустим, подождите ещё вот-вот-вот чуть-чуть времени и гигабаксов - и у нас самопоявится супер-пупер-ИИ, который тут же наизобретает изобретений, решит все проблемы, и наступит светлобудущно-утопическая техносингулярность.

Мысль о том, что никакой ИИ не изобретётся, если его не изобрести, и никакая проблема не решится, если её не решать - долгим и трудным человеко-разумным дизайном (и то не факт, что окажется по силам), нестерпима и еретична, и всячески инквизируется.

Бигдатчики уже практически завершили изобретение современного языческого мракобесия.

true_bump
> но революции (подобно той, что совершили пластмассы) она не сделает.

А какого вида революцию ты ждешь? Самодвижущиеся повозки - норм? Дипфейки, не отличимые от настоящего? Восстановление изображения до 4к из исходника в 320х240 с минимумом потерь? Ну и революция в игре Го - вполне себе, при всей глобальной незначительности этого события.
И то, что создание "риал ИИ" будет происходить с каким-то применением нейросетей - тут к бабке не ходи.

Нейросети решают задачи, для которых они предназначены, не сильно хуже чем пластмасса решает задачу упаковки товара. В тоже время серебряной пулей они не являются.

jaguard
> Нейросети решают задачи, для которых они предназначены, не сильно хуже чем
> пластмасса решает задачу упаковки товара. В тоже время серебряной пулей они не
> являются
  Скажем так, не все задачи решаемы с помощью нейросетей.

nerengd
>   Скажем так, не все задачи решаемы с помощью нейросетей.

You don't say.

Sbtrn. Devil
> Мысль о том, что никакой ИИ не изобретётся, если его не изобрести, и никакая
> проблема не решится, если её не решать - долгим и трудным человеко-разумным
> дизайном
Ну не знаю не знаю, главную задачу человечества - делать из одетых фоток раздетые нейросети уже осилили.

kipar
> В смысле не могут? Это ведь они и придумали как этот шум генерить.
А они придумали, как починить нейросеть, чтобы такой фигни не было?

> . Программист "вдвое умнее" среднего индуса требует отнюдь не двухкратного
> повышения зарплаты, а вот суперкомпьютер можно будет смасштабировать до
> специалистов мирового топа
Может так выйти, что с нейросетями та же фигня - увеличение качества в 2 раза потребует увеличения вычислительных ресурсов в 10 раз.

true_bump
> Очень смахивает на рабовладельческое общество, но оно плохо кончило -
> деградировало и было утилизировано другими историческими формациями
Рабовладельческое общество кончилось тогда, когда иссяк приток рабов. А воспроизводить рабов оно не умело.

return [](){};
> 9 часов работы кластера гугла стоят на несколько порядков дешевле тысяч
> человеколет, угроханных в stockfish
Ну это частный случай. Я не отрицаю, что для решения ряда частных задач нейросети эффективнее. Но не надо их пытаться везде применять.
И есть случаи, когда программа настолько часто будет использоваться, что выгодно будет потратить время программистов на её оптимизацию. Сэкономленное электричество окупит труд программистов.

Zegalur
> Когда ИИ научат строить мотивацию к действиям, придумают наказание и правовую
> ответственность за результат, тогда, считай, все - человек не нужен.
У кожаных ублюдков и так всё очень плохо с описанным. Но засилья ИИ я ещё чего-то не вижу.

gudleifr
> Если из нейросетей выкинуть мусор и немножко подправить обучение, то получится
> обычная архитектура фон Неймана
Ну в принципе да. Можно обучить нейросеть перемножать числа, только делать она это будет ну очень неоптимально.

Sbtrn. Devil
> тут играет качественно вбитое в мозги дарвинистское учение, что, если закинуть
> в реактор мусора (кода, букв) и долго-долго трясти, то из этого самообразуется
Не совсем. Самообразуется - если будет действовать отбор и самовоспроизводство. Тогда из мусора что-то может выйти. Другое дело, что полученное эволюционным путём решение может быть неоптимальным. См. косяки строения тела человека.

jaguard
> А какого вида революцию ты ждешь? Самодвижущиеся повозки - норм? Дипфейки, не
> отличимые от настоящего? Восстановление изображения до 4к из исходника в
> 320х240 с минимумом потерь?
Лично я жду автоматизации большинства производственных задач - управление транспортом, уборка помещений и улиц, строительство и ремонт, добыча полезных ископаемых и т. д. Чтобы человек остался только в творческих профессиях.

Panzerschrek[CN]
> Лично я жду автоматизации большинства производственных задач
Для этой задачи нейросети не очень-то и критичны. Нейросети позволяют просто на вопросы вариативности ответить в автоматизации,
но эти вопросы и запросы сами по себе возникли из-за кризиса перепроизводства. Т.е. жир и проблемы с мозгами у обезьянок.
Нет ни малейших гарантий что если эти запросы покроются, то обезьянки не придумают как дальше работать за чашку риса и страдать,
чтобы соблюдать свою трудовую норму.
Для её осуществления нужно сделать так, чтобы лысые обезьяны перестали выполнять эти задания за тарелку риса.
Т.е. философски и политически сделать ручной труд мерзким, но при этом как-то параллельно сделать труд автоматизаторов престижным.