> [13 марта 2016] Магнитные чипы потребляют в миллион раз меньше энергии, чем электронные транзисторы. Принцип Ландауэра
> https://habr.com/ru/news/t/371929/
необычные «магнитные» чипы, которые тратят на совершение всех элементарных операций в миллион раз меньше энергии, чем транзисторы в современных полупроводниковых компьютерах.
вот на графике (см. картинку под спойлером) прогноз 10^60 скорость вычислений к 2100 году - это какие вычисления имеются в виду ? :D классические вроде невозможны с такими скоростями (предел Ландауэра и всё такое, или на обратимых вычислениях возможно ? очень сомневаюсь конечно)
может квантовые ? (но тогда что то маловато, там скорее будет уже в ближайшие десятилетия 10^1M или даже 10^1B, а в перспективе возможно и 10^1T),
просто сталкивался со статьёй НАСА, в которой утверждалось что производительность согласно закону Мура будет расти вплоть до 2080-ых годов .. но оказывается, что это даже в теории невозможно .. или закон Ландауэра можно обойти ? (не считая квантовых вычислений)
так что, все прогнозы Курцвейла туфта или нет ?
Закон ускоряющейся отдачи (часть 1)
https://habr.com/ru/articles/472926/
Привет! Представляю вашему вниманию перевод труда «The Law of Accelerating Returns» автора Рэймонда Курцвейла.
7 марта 2001
Некоторые из наиболее значимых дат этого анализа:
- Мы достигаем способностей одного человеческого мозга (2×10^16 CPS (вычислений в секунду)) за $1000 около 2023 года.
- Мы достигаем способностей одного человеческого мозга (2×10^16 CPS) за один цент около 2037 года.
- Мы достигаем способностей всей человеческой расы (2×10^26 CPS) за $1000 около 2049 года.
- Мы достигаем способностей всей человеческой расы (2×10^26 CPS) за один цент около 2059 года.
xma
> Мы достигаем способностей одного человеческого мозга (2×10^16 CPS (вычислений в секунду)) за $1000 около 2023 года.
Не достигли.
ИИ сегодня не может написать реалтайм глобал иллюминейшн на цпу. А человек, я например, смог.
Что там вообще сегодня ИИ как программист может, проект какого уровня? Код играбельного тетриса выдаст, или и там будут косяки?
122
> Что там вообще сегодня ИИ как программист может, проект какого уровня? Код играбельного тетриса выдаст, или и там будут косяки?
Построчные комментарии и доксиген заглушки неплохо пишет,... почти не придерёшься. Сейчас полезность ограничена невозможностью локально скормить контекст размером в проект.
122
> ИИ сегодня не может написать
а при чём тут ИИ ваще ? :D и кто сказал что то что не может сейчас, то не сможет и потом ?
да даже если и не сможет, то это как бэ и не сильно большая проблема :D думаю что нейросетки и сами по себе плюс квантовые компы - дофига чего порешают, а дальше как говорится "дело техники" (c)
xma
> и кто сказал что то что не может сейчас, то не сможет и потом ?
Это говорит цифра 2023 в твоей цитате.
0iStalker
> Построчные комментарии
Поубивал бы. Код должен быть таким, чтобы ему не требовались комментарии.
> Сейчас полезность ограничена невозможностью локально скормить контекст размером в проект.
Сейчас это ограничено самим методом генерации результата: нейросеть просто пытается угадать правильный ответ, абсолютно не задумываясь над его смыслом.
122
> Это говорит цифра 2023 в твоей цитате.
каким же образом ? :D производительность растёт, модели ИИ развиваются (в т.ч. и по сложности) - так что всё ещё впереди ..
xma
> каким же образом ? :D
В смысле? В твоей цитате это прогноз на 2023 год.
> 7 марта 2001
> Мы достигаем способностей одного человеческого мозга
> за $1000 около 2023 года.
Это твоя цитата.
Прогноз дан в 2001 году.
К 2023 году предполагается что комп за 1000 баксов будет эмулировать работу одного человеческого разума.
Ну и вот не вышло. По факту не вышло, по факту нынешний ИИ и тетриса не напишет если ему таковое задание поставить описанием геймплея.
122
> К 2023 году предполагается что комп за 1000 баксов будет эмулировать работу одного человеческого разума.
Тебя не смущает, что цифра 2×10^16 которая там приводится минимум в сто тысяч раз больше, чем то количество тактов, которое может производить обычный домашний процессор сегодня (что само по себе ещё не является "вычислением")? Все эти хайповые сравнения это результат тупой экстраполяции в предположении что прогресс будет двигаться так же, как и тогда, когда эти предсказания делаются. А когда они делались частоты росли со скоростью x100 в десятилетие. Если бы всё было так, как они предполагали, то только на одних частотах можно было бы выиграть четыре десятичных порядка, а оставшееся добить законом Мура, который последние годы уже тоже не работает. Вместо этого частоты не выросли за это время не то что в десять, а хотя бы стабильно в два раза (в 2001-м уже были домашние процессоры с частотой 3 ГГц).
xma
> так что всё ещё впереди ..
Я сомневаюсь, что даже к 40-му году удастся достичь того же прогресса, который чувак предсказывал к 2023-му. А так конечно всё ещё впереди, просто сроки уже просраны и дальше они будут просираться ещё сильнее.
122
> К 2023 году предполагается что комп за 1000 баксов будет эмулировать работу одного человеческого разума.
> Ну и вот не вышло. По факту не вышло, по факту нынешний ИИ и тетриса не напишет если ему таковое задание поставить описанием геймплея.
речь там вообще не про это шла, а про то сколько по оценке учёных мозг проводит вычислений в секунду - и когда комп за тыщу баксов будет производить столько же ..
а вовсе не про то что он в кодинге к 2023 году человека заменит :D
Zefick
> Я сомневаюсь, что даже к 40-му году удастся достичь того же прогресса, который чувак предсказывал к 2023-му.
а что он предсказывал ? :D в FLOPS'ы и TOPS'ы переведите их ?
4090 GPU offers more than 1,300 TOPS.
отсюда,
TOPS of the Class: Decoding AI Performance on RTX AI PCs and Workstations
https://blogs.nvidia.com/blog/ai-decoded-tops/
а это знаете ли если считать что 2×10^16 CPS это количество операций с двоичными битами в секунду, то уже даже и перегнали (и даже на RTX 4070 Super)
- Мы достигаем способностей одного человеческого мозга (2×10^16 CPS (вычислений в секунду)) за $1000 около 2023 года.
ну а даже если TOPS'ы целиком считать, то всё равно очень близко для 4090/5090 (хоть и "чуть дороже" тыщи пока) :D
Полупроводниковая микроэлектроника – 2024 г. (свежий обзор перспектив заслуживающий отдельной темы)
https://gamedev.ru/flame/forum/?id=286653
судя по Рис. 5., (к 2031 году) плотность на 1 нм техпроцессе таки достигнет 1 млрд транзисторов на мм^2
(судя по всему, подсчёты вполне верные) :D
ИНТЭЛ на форуме «Микроэлектроника 2024»
https://nespi.mephi.ru/press/news/18727
«Сегодня проектные нормы характеризуют плотность размещения транзисторов, а не размеры микросхемы. При нормах "3 нм" на 1 квадратном миллиметре размещаются до 300 млн транзисторов, а при нормах "1 нм" – до 1 млрд транзисторов», – объяснил докладчик.
P.S.:
если кому интересно, Low-NA EUV начало применяться TSMC на 7 нм техпроцессе (с плотностью около 90 млн транзисторов на мм^2)
xma
> речь там вообще не про это шла, а про то сколько по оценке учёных мозг проводит вычислений в секунду
А 8-битных или 16-битных?
И в целых числах считали или во флоатах?
А арифметические сдвиги считали, или там только "+-*/"?
Ну просто мой мозг выполняет примерно:
1 арифметический сдвиг за пару секунд.
1 целочисленную 8-бит арифметическую операцию "+-" за 15 секунд.
1 целочисленную 8-бит арифметическую операцию "*/" за 60 секунд.
А флоаты и считать нет смысла, там одна 80-бит флоат операция может часами выполняться моим мозгом.
Как там какие-то триллионы операций в секунду насчитали, не понятно. Это у кого же такой мозг быстрый. :)
122
> Ну просто мой мозг выполняет примерно:
> 1 арифметический сдвиг за пару секунд.
> 1 целочисленную 8-бит арифметическую операцию "+-" за 15 секунд.
> 1 целочисленную 8-бит арифметическую операцию "*/" за 60 секунд.
> А флоаты и считать нет смысла, там одна 80-бит флоат операция может часами выполняться моим мозгом.
Это эмуляция однопоточного калькулятора на нативном мозговом "железе", которое предназначено для массовой параллельной обработки аналоговых сигналов с целью распознавания образов (ну примерно, как заставить сенсор видеокамеры решать квадратные уравнения, примерно такого уровня задача).
0iStalker
> которое предназначено для массовой параллельной обработки аналоговых сигналов
Как бы, этот посыл я и даю в своём сообщении.
Что мозг человека довольно глупо измерять количеством арифметических операций.
Ну и их будет довольно мало в любом случае.