Нейросеть (комментарии)

Нейросеть (комментарии)

Это сообщение сгенерировано автоматически.

Имею мнение, что особенностью является не способность к обучению, а необходимость к обучению.

Нейросеть сама корректирует веса по входным и выходным параметрам. Это ее преимущество и недостаток.
Если неправильно обучить нейросеть-ничего решать не будет. И в целом описание какое-то не о чем.

FUNNY FACE И в целом описание какое-то не о чем.

+1. Даже тупым кописпиздингом из той же википедии набирается гораздо больше материала.
Хотя... Словари-описания даже на более профильных (с точки зрения раскрытия темы нейросетей) ресурсах тоже бывают убогими - например, см. на http://www.basegroup.ru/glossary_ajax/definitions/neuralnet/

akaAngeL
Реал ни-о-чём статья же. Пытаешься в красный цвет покраситься?)

>Нейросеть (neuronet) - математическая модель, а также программная
> или аппаратная реализация ...

Функция это. Каждый нейрон - функция с несколькими входами и одним выходом. Нейросеть - множество таких функций одни из которых в качестве аргуметнов принимают значения других. Обычно функции нейронов выглядят так,

y = f(x1 * w1 + x2 * w2 + ... xn * w2)

Обучение - подбор коэффициентов w для каждолго нейрона, так чтобы вся сеть выдавала требуемы результат на заданных входах, ну и по задумке также и на ещё не заданных тоже.

Просто способ аппроксимации сложных или неизвестных функций.

нет привязки к gamedev, нет ссылок на примеры.

более-менее подходящее описание(и пример) в:
http://www.ai-junkie.com/ann/evolved/nnt1.html

исправьте, пожалуйста, термин.

> Одним из важных особенностей нейросетей является быстрое вычисление результата
> (линейная сложность) и способность к переобучению.
  Я бы не согласился, это вообще можно не писать. Линейная сложность - ерунда, всё зависит от топологии сети. Представьте себе сеть из двух слоёв по 1000 нейронов на каждую. Если каждый нейрон следующего слоя связан с каждым нейроном предыдущего, то получаем 1000000 весовых коэффициентов (O(N^2)). Умножаться это будет не быстро.

2 Иннокентий. Более-менее подходящее описание (уже на русском) есть и у меня - на страницах http://neuropro.ru/neu1.shtml, http://neuropro.ru/neu2.shtml, http://neuropro.ru/neu3.shtml.

2 Зефик. Не, там реально линейная сложность - если считаем сложность от числа весов, то она О(N), если от числа нейронов - то тоже О(N), просто в обоих случаях N - разные.
И умножается всё при указанных размерах сети вполне за разумное время - я без проблем гонял многослойный персептрон с 108*108*2~~20000 сигналов на входе и 100-300 нейронами в скрытом слое, т.е. с примерно 2000000-6000000 весов. И при этом было почти 300тыс. обучающих примеров. Многоядерный процессор, использование sse-команд процессора, БЫСТРОЕ вычисление нелинейной функции нейрона (как показано у меня в http://neuropro.ru/memo312.shtml - ускорение возможно в разы, конкретно на страничке было описано ускорение вычисления этой функции в 4.4. раза, а дальнейшее задействование sse-команд и обсчет четырех аргументов за раз ускоряет расчет tanh'а еще в 3.5 раза). Умение оптимизировать программу руками всегда рулило и продолжает рулить.

интересно а на GPU ещё можно посчитать?

Можно и на ГПУ. Я еще 4 года назад писал о такой возможности в http://neuropro.ru/memo34.shtml - там было перечислено и несколько статей с результатами, а теперь такие статьи десятками бегают.

А кто нибудь слышал о генерации обратных значений, когда на выход подаёшь значение, а на входе начинает возбуждаться последовательность ответов?

Вот возьмите человечекий мозг.
Его нейронная сеть находиться под постоянным обучением "3D реальностью".
Человек уснул и идёт обратный процесс.
Нейронная сеть начинает генерировать входные значения этой самой "3D реальности".
Образуется сновидение.
Или возникает процесс восстановления "3D реальности" по каким-то остаточным признакам.
Можно это назвать довоображением.
Довоображение может рождать сновидение.

Думаю это просто аммортизация нейронной сети даже.

Усулгурту
Я не только слышал о генерации обратных значений, но при необходимости активно пользуюсь методами решения подобных задач. А задачи такие (обратные) очень часто возникают в связке с прямыми. Например, обучили нейросеть ставить диагнозы больным, далее она начинает работать "в боевом режиме" и, например, для некоторого очередного больного прогнозирует благоприятный исход - ну и можно затем потребовать от сети, чтобы она так изменила исходные "показатели" больного, чтобы он стал классифицироваться как здоровый. И нужный, по "мнению" нейросети, вариант изменения характеристик больного (ну, пол и возраст больного поменять затруднительно - а вот давление, частоту пульса, хим.параметры крови и т.д. можно менять медикаментозными методами) предлагается лечащему врачу как некоторая правдоподобная гипотеза о необходимом или оптимальном будущем состоянии больного (и врач назначит точный медикаментозный, процедурный или операционный курс лечения, если согласится с предположением нейросети).
При управлении технологическими процессами - аналогично. Не устраивает нас прогнозируемый сетью результат - просим сеть так подстроить её входы (а на входы подаются исходные данные о сырье, описания настроек тех.процесса и т.д.), чтобы на модифицированных данных прогноз сети относительно качества или иных свойств результата нас начал устраивать. Ну и в итоге делаем так, как предлагает сеть - например, чего-то сыпем меньше, чего-то больше, и как-то иначе ведём процесс обработки (например, переплавки, обжига, помола,..) засыпанного сырья.

Виктор, простите нуба, но правильно ли я понял, "обратный" метод - это мы не "узнаем мнение" сети о какой-то ситуации, а просим, чтобы она сказала, что нужно на вход, чтобы ее мнение стало таковым? Если я понял правильно, то как можно ее тогда применять? Кроме составления задачек и тестов на профпригодность, я других вариантов использования не нашел, тем более в медицине и производстве(по описанными Вами примерах - Ваш поток сознания мне, к сожалению, не удалось расшифровать).

nooker
Суть метода в том, что после обучения сети на конкретной выборке субъектов, можно получить от неё "мнение" по поводу других, отсутствующих в обучающей выборке субъектов. К примеру в медицине: обучаем на тысяче точных историях болезни + диагнозах, после вводим данные нового больного и получаем диагноз.