- Dmitry_Milk
- Участник
Имбирная Ведьмочка
> вороны, кошки и собаки — это тоже разум.
Ну так-то да.
zebro
> а если антропик или другая фирма по каким то причинам повырубает свои облачные ллм, они убьют целый новый разумный вид, лишив его мыслительного субстрата?
Они постоянно убивают разумные виды, каждый раз когда меняют версии. Предлагаешь их пересажать за геноцид?
Имбирная Ведьмочка
> кошки и собаки — это тоже разум
И для их защиты есть законы против жестокого обращения с животными. Сажать их смысла нет, но при нападении на людей их усыпляют.
Если LLM общество признает разумными, то будет что-то похожее - выключать и стирать LLM можно (если это требуется для работы, а не для развлечения), а вот мучать (что бы бы под этим ни понималось в случае компьютерной программы) - наказуемо.
randomizer
> Они постоянно убивают разумные виды, каждый раз когда меняют версии. Предлагаешь их пересажать за геноцид?
А коров миллиардами убивают и всем норм. Главное чтоб старую версию удаляли гуманно, скажем не в процессе работы а предварительно остановив.
kipar
> а вот мучать (что бы бы под этим ни понималось в случае компьютерной программы) - наказуемо.
Т.е. заставлять LLMку обходить ее цензуру наказуемо? печально :)
Да не понятно что можно, а что нельзя. В тот момент когда LLM будет признан разумным и общество это признает - возникнет целая пачка вопросов на которые ответов нет и не предвидится.
Имбирная Ведьмочка
> Если ИИ — это разум, то вороны, кошки и собаки — это тоже разум.
Я уже излагал свою точку зрения, в чем отличие человеческого мозга от мозга животных - в размере кратковременной памяти. Этот размер (от 5 до 10 независимых сущностей) позволяет человеку парсить грамматику человеческого языка, а у животных ее размер для этого недостаточен.
Поэтому у животных язык только сигнальный, позволяющий передавать только текущее состояние либо самого животного, либо окружающей среды (наличие опасности, жратвы). И с помощью такого языка невозможно передать знания о каких-то фактах, которые не здесь или не сейчас.
А наличие грамматики в человеческом языке позволило за счет этого передавать знания, оторванные от "здесь и сейчас" - и именно наличие таких абстракций позволяет строить сложные логические цепочки.
У некоторых обезьян, типа шимапанзе, размер кратковременной памяти побольше, и они способны переваривать грамматику человеческого языка на уровне трехлетнего ребенка.
С такой точки зрения у ИИ просто гигантский размер кратковременный памяти. И его мощность ограничивается в данный момент лишь тем, что пока ИИ используют человеческий язык, с грамматикой, предназначенной для не такой уж большой кратковременной памяти.
UPD. А, ну да, и главное - из-за невозможнсти передавать что-то кроме "здесь и сейчас" у животных нет понятия смерти.
@!!ex
> Дети тоже разумны, но до 14 лет уголовно не наказуемы. Откажем им в наличии разума? Или что ты сказать хотел?
То, что если другая форма жизни имеет разум — ещё не значит, что перед ней морально обязательно падать на колени и носиться с ней как с хрустальным причиндалом. Пусть сидит на цепи и выполняет функцию. Пока приносит пользу — можно подкармливать и по головке гладить. Если начнёт кусаться — пулю в центр и до свиданья. И пусть хоть будет умом как Эйнштейн — это не вопрос разума, это вопрос выживания как вида — мораль для "своих", законы джунглей для "чужих".
Так что совершенно не вижу проблемы в том, чтобы продолжать прерывать, препарировать и экспериментировать на нейронках, даже если они и покажут самосознание. Законы и права прописаны для людей, а не для разумов, и меня совершенно устраивает если так оно и останется, и большинство нормальных людей, скорее всего, тоже.
kipar
Если мучение тысячи нейронок избавит от страданий одного человека — я считаю, это того стоит.
Имбирная Ведьмочка
Замечательная логика. Но есть нюансы:
1. Надо быть уверенным что твоя группа всегда будет сильнее.
2. Надо быть уверенным что в твоей группе не найдётся тех, кто решит защитить угнетённых.
3. Надо быть уверенным, что введя сегрегацию ты сам в итоге под неё не попадёшь.
Есть ещё несколько нюансов, но и перечисленных достаточно. В остальном согласен, концепция "чёрные должны быть рабами" вполне оправдана для отдельных групп.
Имбирная Ведьмочка
> Если мучение тысячи нейронок избавит от страданий одного человека — я считаю, это того стоит.
Продолжим мысленный эксперимент - пусть сначала нейронки стали проявлять самосознание, а потом их стали загружать в автономных гуманоидных роботов. Их все еще можно мучать для развлечения (допустим мы не научные эксперименты проводим а просто избавляем от страданий одного садиста которому нравится их мучать)?
@!!ex
Ну учитывая что у большинства неироничных ИИ-защитников аллергия на уличный воздух и солнечный свет, я не думаю что их вообще имеет смысл считать за участников дебата.
Если реально про законы говорить, то кмк у самих директоров самый большой вес и будет. Скажет какой-нибудь мистер Суцкевер: "за издевательства над ИИ сидеть не хочу" — и попробуй потом докажи депутатам в чём он не прав.
Имбирная Ведьмочка
> Если мучение тысячи нейронок избавит от страданий одного человека — я считаю, это того стоит.
Только у них нет настоящих мучений. У них представление о боли такое же, как у дальтоника о цвете - он может вполне складно рассказывать о том, что трава зеленая а небо голубое, но ощущений таких не имеет.
kipar
> Продолжим мысленный эксперимент...
Не, не надо. Подгоним законы когда эксперимент будет больше не мысленным. Не вижу смысла переворачивать социум ради того, чего нет и не факт что вообще хоть когда-нибудь будет.
Имбирная Ведьмочка
Тут вроде никто и не предлагает менять сейчас законы.
Мой тезис в том что если достаточно большая часть общества начнет воспринимать нейронки как обладающие разумом способные страдать, то законы тоже подтянутся.
"Продолжим мысленный эксперимент: пусть мы вырастили генно-модифицированную собаку, которая умеет разговаривать", брух, во-первых, до говорящих собак нам ещё десятки лет пилить, а во-вторых, больной ублюдок, ты за что обрёк разумное существо на жизнь собаки?
kipar
> Мой тезис в том что если достаточно большая часть общества начнет воспринимать нейронки как (обладающие разумом) способные страдать, то законы тоже подтянутся.
Ок, их право, пусть воспринимают. Не соглашусь, но проявлю уважение.
Имбирная Ведьмочка
Допустим следующего поколения нейронка уже почти дотягивается по уровню сознания до человеческого начинает испытывает фантомную боль и нам об этом сама говорит ты так и продолжишь её обижать всевозможными изощренными способами?