Разработка Искусственного Разума (45 стр)

"...Инженер во мне осознавал, что как только мы поймем, как работает мозг, что мы сможем построить искусственный мозг, из кремния. Я работал на компанию, разработавшую кремниевые чипы памяти и микропроцессор; таким образом, возможно, я мог бы заинтересовать Intel позволить потратить часть моего времени на размышления об интеллекте и о том, как спроектировать мозгоподобные чипы памяти. Я написал письмо председателю Intel, Гордону Муру. Содержимое письма было примерно таким:
Дорогой Доктор Мур,
Я предлагаю организовать исследовательскую группу, занимающуюся изучением работы мозга. Ее можно начать всего с одного участника – с меня – и так далее. Я уверен, что мы можем понять, как он работает. Когда-нибудь это станет большим бизнесом.
— Джеф Хокинс
Мур направил меня к главному ученому компании Intel, Теду Хоффу. Я вылетел в Калифорнию на встречу с ним и выложил свои планы по изучению мозга. Хофф был известен по двум вещам. Первая, о которой я был осведомлен – это разработка первого микропроцессора. Вторая, о которой я не знал до этого времени – его работа над теорией нейронных сетей. У Хоффа был опыт в искусственных нейронных сетях и в том, что с ними можно сделать. Я не был готов к этому. Выслушав мои предложения, он сказал, что не верит в то, что в обозримом будущем понять работу мозга, и что для Intel нет смысла поддерживать меня. Хофф был прав, потому что только сейчас, 25 лет спустя, мы только начинаем продвигаться в понимании мозга. В бизнесе время – это все. Однако, тогда я был слегка разочарован.
Я склонился к тому, чтоб с наименьшими потерями достигнуть своей цели. Работа над теорией мозга в Intel могла бы быть наилучшим выходом. Когда эта возможность была отвергнута, я стал искать другую. Я решил обратить внимание на Массачусетский Технологический Институт (MIT), который был известен своими исследованиями в области искусственного интеллекта и был удобно расположен по дороге. Это казалось великолепным совпадением. У меня большой опыт в вычислительной технике – «подходит». У меня желание построить интеллектуальную машину, «подходит». Я хочу сначала изучить мозг, чтоб понять, как он работает… «хмм.., с этим проблемы». Эта последняя цель, желание понять работу мозга, было ненужным в глазах ученых из лаборатории искусственного интеллекта MIT.
Это было все равно что ломиться сквозь стену. MIT был родиной искусственного интеллекта. Когда я подал заявление в MIT, он был домом для множества интересных людей, порабощенных идеей запрограммировать компьютер так, чтоб он демонстрировал интеллектуальное поведение. Для этих ученых зрение, язык, роботы и математика были всего лишь вычислительными проблемами. Компьютеры могли бы делать все, что мог бы мозг, и даже больше, зачем же ограничивать мышление биологическими недостатками природных компьютеров? Изучение мозга ограничило бы наше мышление. Они были уверены, что лучше изучать предельные ограничения вычислений, как наиболее выраженные в цифровых вычислительных машинах. Их «Святым Граалем» было желание написать компьютерные программы, которые сначала сравнялись бы, а затем и обогнали человеческие способности. Они выбрали подход «цель оправдывает средства»; их не интересовало, как работает реальный мозг. Они гордились игнорированием нейробиологии..."

On Intelligence, Jeff Hawkins (основатель Palm Computing и Handspring).

kerosene
>[b]gastat[/b]
>>К сожалению, программить несколько сложнее, чем нам фантазировать :)
>Ну это здесь совершенно не причём. У любого организма есть "ограничители"
На самом деле ещё как причём. Как ты говоришь "ограничители" встроены в физическую модель, и, как бы мозгу этого ни хотелось, ему не удастся выгнуть колено наружу. А вот как его выгнуть правильно, надо сформулировать достаточно чётко. Чтобы выявить лидеров, нужно оценить число поведение каждой особи в сезоне. В демке, которую я здесь выложил, этой оценкой является смещение по z-координате. В демках стоячих роботов используются куда более сложные функции, учитывающие прямоту пройденного пути, "осанку", затраченную энергию. По описанию, которое дал gastat, вполне можно сформулировать такой критерий отбора, чтобы оставались только особи, передвигающиеся труЪ-галопом :)

Вообще дрессировка этих ребят - безумно интересное занятие. Если достаточно сложной критерий отбора сформулировать как "пробежать как можно дальше", то они, разумеется, будут обучаться, но эволюция пойдёт достаточно медленно, потому что светила тамошней ануки будут регулярно находить очень оригинальыне способы передвижения: резко перевернуться на спину и остаток пути проползти на ней, лечь на брюхо и грести одной ногой, лечь на спину и трясти конечностями так, чтобы двинаться по принципу виброхода, закинуть ноги назад и грести только руками, или просто-напросто залезть соседу на спину :D Любой из этих иногад причудливых способов имет полное эволюционное право на жизнь в данных условиях. И ребята, полностью довольные собой, совершенствуются в гребле ногами вместо того, чтобы учиться бегать галопом. Вот и приходится строить более хитрые целевые функции, учитывающие не только пройденное расстояние, но и многие другие факторы.

Несколько примеров целевых функций с результатами(достигаются обычно за 15-20 сезонов)

- Крутостью организма считается высота его центра масс над землёй в момент окончания сезона
кричи либо лежат лежнем весь месяц, а в самом конце, собравшись, резко прыгают, либо судорожно прыгают весь месяц(часто падают на спину и дохнут :) )

- Целевая функция - интеграл от высоты центра масс по времени
отлично зарекомендовала себя как функция, обучающая крич вставать на ноги и удерживать равновесие

- Функция, являющаяся интегралом суммы квадратов углов эйлера по времени
заставляет крич "держать осанку" - бегать прямо, не кривляться, не заваливаться на бок

- Интеграл мощности по времени(совершённая работа)
сама по себе бесполезна, но сгруппированная с какой-нибудь другой, помогает кричи не биться в эпилептических судорогах, а расходоват энергию более-менее

равномерно, что выглядит более естественно

Комбинации этих функций(разности, суммы, произведения, минимумы, максимумы) помогают "тюнинговать" поведение крич и выращивать из них кого хочешь :)

Лол. Первая демка, где кричи учатся достаточно успешно, чтобы за конечное время научиться падать за границу :)
скрин:

У четырёхногих крич я на всякий пожарный сделал Очень большую нейросеть, чтобы её заведомо хватило. Поэтому на не очень мощных машинах обучение может вообще затянуться, но мне удавалось дождаться, когда из забега падало за борт около пяти жеребцов.

Демку смотреть тут(riding.exe, текстуры можно взять из предыдущего архива).

//правка:
Ребята по началу спавнятся совсем тупенькими и просто лежат лежнем - не пугайтес, они так учатся. У меня достаточно резво бегут уже на 10 поколении, на 16 уже падают за край земли.

Suslik
Двуногие "коробкИ" за час научились пятиться назад:)
Ты бы привёл схему нейронной сети, может её можно усовершенствовать.
>Как ты говоришь "ограничители" встроены в физическую модель, и, как бы мозгу этого ни хотелось, ему не удастся выгнуть колено наружу.
>А вот как его выгнуть правильно, надо сформулировать достаточно чётко.
Обычно коленный сустав сгибается назад полностью, так то бедро ложится на голень полностью, а вперёд разгибается
так, что бедренная кость и голень образуют прямую.

Suslik
а у меня четырехногие за час только 2/3 пути научились преодолевать, причем самым шустрым большую часть времени был опять тот, которому я кирпичами посыпал...
что-то не хотят они учится быстро :(

kerosene
>Двуногие "коробкИ" за час научились пятиться назад:)
Может, ты камеру развернул?

>Ты бы привёл схему нейронной сети, может её можно усовершенствовать.
Думаю, этим лучше заняться мне с Alexander K

AcManZ
>а у меня четырехногие за час только 2/3 пути научились преодолевать
там есть две демки четырёхногих парней:
four-legged учатся отдаляться от камеры и просто проходить максимально ерасстояние
riding учатся проходить максимально ровно, максимально высоко и максимально далеко - отсюда и результат - они падают за границу.

На физическую модель влияют такие клавиши как ентер, левая кнопка мыши, что может повлиять на эволюцию не в лучшую сторону. Если не оказывать на систему никакого влияния(только при желании проматывать время быстрее), то сещуства обучаются всегда одникого со следующей скоростью:

two-legged:
- уже на третий сезон появляются первые ползуны
- к седьмому активно ползёт вперёд бОльшая часть стада
- после пятнадцатого заметных просветлений больше не наступает

four-legged:
- на пятнадцатый сезон появляются первые бегуны
- на двадцаты бежит достаточно далеко уже половина стада
- насыщение наступает где-то на тридцатом сезоне, когда они выбирают оптимальный в данных условиях метод передвижения и далее не совершенствуются

riding:
- на шестой сезон бОльшая часть стада встаёт на колени
- на восьмой сезон кто-то догадывается сделать шаг вперёд, за что получает большой бонус //тут почему-то действительно бывает баг и светило науки наотрез отказывается появляться - советую перезапустить демку
- на двенадцатый шаг бОльшая часть стада активно занимается совершенствованием техники бега
- к двадцатому дню уже активно валятся за край

Suslik
>Думаю, этим лучше заняться мне с Alexander K
Боишься раскрыть секрет? :)
Ну воля твоя, настаивать не стану.

kerosene
>Боишься раскрыть секрет? :)
да было б что раскрывать.. просто смысла нет.

сейчас на мейл почту зашел, там новость: "Ученые опровергли мифы о работе мозга"
все, ученые разрешили проблему, он не работает:)

правда в самой новости ничего интересного, кроме может:
>по данным ученых, мозг человека использует меньше энергии, чем лапочка в холодильнике.
>На сообщение между клетками необходимо всего 12 ватт энергии.

unsub

AcManZ
Я вот тут начал читать книгу Хокинса про нейронные сети. Он прямо заявляет, что в коре мозга (неокортексе) всего 30 млрд.нейронов,
а остальные части мозга (таламус, гиппокамп и т.д.) устроены у всех людей примерно одинаково. Т.е."кора" - есть средоточие "личности" и
"разума" и главный смысл нейробиологии - это разгадать как действует неокортикс. Тогда и проблема ИР будет полностью (ну почти)
решена.

Suslik
А они у меня в первый раз задние ноги практически никто не сгибал. И так не научились качественно в пропасть падать, все как-то ковыляли.
После перезапуска уже именно галопу обучились.

Т.е. довольно сильно от случайностей зависит.

Suslik
Еще они у меня бегали на 3ех ногах, переднюю левую все время поджатой держали.

desss
>И так не научились качественно в пропасть падать
:)

>Т.е. довольно сильно зависить от случайностей зависит.
Дело в том, что в демке просто безумно много различных управляющих параметров: сгибающая сила в колене, разгибающая сила в колене, максимальный угол сгиба плеча, количество нейронов нейросети, множество параметров, определяющих свойства скрещивания, эволюционного отброра. Орудовать сразу ими всеми, чтобы получить нужный рехультат достаточно сложно. Поставишь, к примеру, в мозг мало нейронов - ребята начинают тупить, когда попадают в чуть-чуть незнакомую ситуацию(ногу слишком сильно согнул), поставишь слишком много - тормоза, поставишь слишком большую мутацию - они начинают заниматься кто чем хочет, слишком маленькую - лежат, лентяи, несколько лет.

Сейчас в ближайших планах находится попытка научить держать равновесие нечто двуногое.