- Yuriy0
- Постоялец
Yuriy0
> Он ощупывает лист бумаги морщинистой дрожащей рукой, тактильно ощущая её текстуру.
Я украл картинку для твиттер аккаунта.
zebro
> было бы круто еще переключатель на темную тему впилить
Ух. Целый блоговый движок получается. ))
@!!ex
> Я украл картинку для твиттер аккаунта.
Добро.
zebro
Думал о чем-то таком. Но самомодификация без внешнего контроля - это тупик. ИИ часто ошибается. Но когда ты ошибаешься делая себе операцию на мозге - это фаталити.
По-любому там автор этого проекта сидит с жестким надзором и корректирует ошибки, которые делает ИИ. А это сводит на нет саму идею.
Есть мысли, как это можно сделать по уму. Но нет бюджета. ))
@!!ex
там в новости ссылка на гитхаб, можно посмотреть.
Я так понимаю он сначала тесты прогоняет и пока не пройдут в прод изменения не заливает, но насколько это надежно фиг знает, ведь тесты тоже ии запускает.
@!!ex
> Но когда ты ошибаешься делая себе операцию на мозге - это фаталити.
Главное что непонятно как он определяет что стало лучше, а без этого все рассуждения ничего не стоят. Возможно ему просто кажется что любое изменение всегда делается к лучшему. Тогда это просто информационный шум.
Мне интересно когда уже кто-нибудь поставит перед ИИ задачу доказать какую-нибудь задачу тысячелетия и делать это так, как делают нормальные учёные: не пытаясь угадать ответ, а делая последовательности утверждений и проверяя насколько каждое из них подходит для дальнейшей проработки. Вот тогда будет какой-то прогресс и можно будет сказать что оно мыслит, а не просто думает. Уверен это уже возможно. А все эти "я увеличил себе память, но не знаю для чего" уже не впечатляют.
Видимо в популяции слишком мало шарящих людей в обоих областях одновременно, которые были бы способны взять на себя риск проделать что-то подобное.
Zefick
Нормальные ученые обычно при решении в тупик заходят, только единицы из тысяч пробующих в итоге получают решение.
Даже если ИИ будет разбираться в предмете не хуже лучших математиков, ждать пока среди тупиков и галлюцинаций попадется настоящее решение придется долго.
Zefick
> Мне интересно когда уже кто-нибудь поставит перед ИИ задачу доказать какую-нибудь задачу тысячелетия и делать это так, как делают нормальные учёные: не пытаясь угадать ответ, а делая последовательности утверждений и проверяя насколько каждое из них подходит для дальнейшей проработки. Вот тогда будет какой-то прогресс и можно будет сказать что оно мыслит, а не просто думает. Уверен это уже возможно. А все эти "я увеличил себе память, но не знаю для чего" уже не впечатляют.
zebro
> ИИ не просто справился с тремя из пяти сложнейших математических гипотез
> Evaluating whether an AI system can prove very easy conjectures that are simple for humans with appropriate training, yet novel enough not to be directly available from existing sources
ясно
kipar
> Нормальные ученые обычно при решении в тупик заходят
Потому что у них не хватает терпения и контекст мозга слишком мал чтобы хратить все детали процесса. Это и не удивительно учитывая какую ерунду там иногда приходится доказывать и какого труда вообще стоит понять "очевидно ли это или мне всё-таки нужно потратить ещё десять страниц".
> Это первый раз, когда ИИ столкнулся не с олимпиадными задачами, а с открытыми научными проблемами.
Хотелось бы подробного анализа того приведено ли там человеческое решение или та же хрень как и в случае задачи с четырьмя красками, где просто перебирались тысячи вариантов. Просто человеческое решение надо долго проверять. Между публикацией доказательства гипотезы Пуанкаре до его признания прошло несколько лет проверок при том, что оно было написано человеком, который был заинтересован в верификаци и знал, что проскочить на пофиг не получится. А тут три задачи в миг зачли. Как-то подозрительно.
Zefick
> Хотелось бы подробного анализа того приведено ли там человеческое решение
там задачи с которыми, по мнению исследователей, должен справляться успешный студент\аспирант примерно за день работы.
Так что пока по терпению и контексту мозга исследователи несколько опережают GPT5.
kipar
> там задачи с которыми, по мнению исследователей, должен справляться успешный студент\аспирант примерно за день работы.
Ну тогда это хрень, а не задачи. Это даже не уровень олимпиад от которых они пытались уйти. Не знаю с чего они решили что это входит в компетенцию и возможности аспирантов, но как только они начали вводить общность, то сразу следует догадаться что требуемый уровень там не высок. Если я скажу "с этим справится любой средний программист" то уровень задачи мгновенно опускается ниже уровня сортировки пузырьком.
Zefick
> Это даже не уровень олимпиад от которых они пытались уйти.
Они пытались уйти не в сторону сложности. На олимпиадные задачи в интернете есть ответ, а эти они придумали сами и соответственно ответа на них нет.
так то там и второй пост еще есть
пруфы я правда не чекал