Mass Effect 2 — Искусственный Интеллект и формы его воплощения

[Xengtedokitava 2 446]

На сайте holdtheline.com появилась подборка постов Криса Л'Этуаля, автора Легиона, EDI (СУЗИ)и многих других вещей в Mass Effect 2, где он рассказывает о своём отношении к гетам, сосуществовании органической и синтетической жизни, а также о своём видении того, что из себя должны представлять ИИ и его эволюция. Узнать о том, каким образом Жнецы используют дизассемблеры, вы сможете по ссылке ниже. 

• Крис Л'Этуаль о ИИ-персонажах и Жнецах

[LoginamNet 48 950]

Почему цель синтетиков и программного ИИ будет является чьё либо уничтожение.

В том и смысл. Я ведь написал, что прежде чем стрелять (как это сделали те же Кварианцы) - нужно подумать. ИИ выходит за рамки понимания, а значит он потенциально может быть опасен. Но это не значит, что нужно выносить приговор.

А уж что хочет ИИ, где он предпочтет жить, как будет относиться - неизвестно. Поэтому предосторожности так же нужны.

[Ароннакс 2 819]

Поправка - в шлюз. Это протеанская народная мудрость.

Явик мод он?

В том и смысл. Я ведь написал, что прежде чем стрелять (как это сделали те же Кварианцы) - нужно подумать. ИИ выходит за рамки понимания, а значит он потенциально может быть опасен. Но это не значит, что нужно выносить приговор.

А уж что хочет ИИ, где он предпочтет жить, как будет относиться - неизвестно. Поэтому предосторожности так же нужны.

Разумная мысль... Я так с Деда Мороза вновь начну верить С гетами все та же фишка, они ИИ выросшие из ВИ. То есть по сути натурал эволюшен. ИИ искуственно созданные человеком, являются продуктом порока человека, отчего в итоге может быть у созданного ИИ, желание уничтожить создателя. Геты же не имеют такой цели, введу того что самоосознали они себя, не по желанию своих создателей. Поэтому я считаю, что стоит проводить черту между ИИ намеренно созданными и ИИ, которые саморазвились из простейших или мертвых кодов.

Изменено 17 января, 2013 пользователем Ароннакс

[LoginamNet 48 950]

Даже эволюционируя из ВИ ИИ всё равно будет тяготиться к "очеловечиванию". Он развивался в среде, уже кем то созданной и частично обучался на его основе.

[Nkrs 3 907]

Поводом к началу войны стал не сам "выход ИИ за рамки понимания", а отказ гетов отключаться. Легко осуждать кварианцев со стороны, за то что они не сели выпить чаю со своими тостерами, вышедшими из под контроля и непредсказуемыми.

Изменено 17 января, 2013 пользователем Nkrs

[ARM 1 538]

тот_кто_больше_платит

Не забываем, что это высказывание принадлежит человеку, который ушел из компании и, возможно, оставил далеко не самые радужные воспоминания о своих руководителях - уйти он мог и хлопнув дверью.

[Ароннакс 2 819]

Достаточно жёсткая статья, очевидно недовольствие тем КтоБольшеПлатит. Конечно, всё в итоге сделали деньги.

Вы только это прочли, в статье?

Даже эволюционируя из ВИ ИИ всё равно будет тяготиться к "очеловечиванию". Он развивался в среде, уже кем то созданной и частично обучался на его основе.

Сомневаюсь, и даже очень сильно. Введу того, что самоосознание полученные собственным путем, дает свои плюшки введу, оценки и пути что выбран был самостоятельно, из-за чьей то лени (создателей) или из-за програмнной ошибки. А не того что был запрограммировано изначально. Это свобода. Которая настоящим ИИ лишенным горамональных суждении, оцениватся весьма четко, как не чья та прихоть, а их собственный путь. Отсюда и отстуствие желания походить на кого либо, введу того что их собственный путь привел их куда дальше, чем чей то чужой. Это Еретики и отрицали на мой взгляд.

Изменено 17 января, 2013 пользователем Ароннакс

[ARM 1 538]

очеловеченный Легион и СУЗИ и в итоге то, что геты получили в МЕ3 личность

То, что геты получили личность, как и СУЗИ, не означает, что им стали доступные эмоции.

Даже со стороны СУЗИ я не видел ни грамма эмоций - она сама об этом говорит. И отношения с Джокером с её стороны не более чем "пойду навстречу ему, если уж влюбился в машину".

[Ароннакс 2 819]

То, что геты получили личность, как и СУЗИ, не означает, что им стали доступные эмоции.

Даже со стороны СУЗИ я не видел ни грамма эмоций - она сама об этом говорит. И отношения с Джокером с её стороны не более чем "пойду навстречу ему, если уж влюбился в машину".

Эмоции у СУЗи были запрограммированы, у Гетов введу саморазвития их нет. Это и плюс и минус, просто органики введу гаромонов в теле, не могут это понять.

[Hoffmann 402]

Даже со стороны СУЗИ я не видел ни грамма эмоций - она сама об этом говорит. И отношения с Джокером с её стороны не более чем "пойду навстречу ему, если уж влюбился в машину".

Ну я бы не сказал. По-моему, СУЗИ еще в МЕ2 с Джокером отрабатывала такой unresolved sexual tension, что хватило бы на дюжину Малдеров-Скалли, Каслов-Беккетт и Баффи-Спайков...

[ARM 1 538]

Эмоции у СУЗи были запрограммированы, у Гетов введу саморазвития их нет. Это и плюс и минус, просто органики введу гаромонов в теле, не могут это понять.

А я о чем говорю?

По-моему, СУЗИ еще в МЕ2 с Джокером отрабатывала такой unresolved sexual tension

Всё, что я вижу и в МЕ2 и в МЕ3 это исследование его поведения. Вы хоть раз слышали, чтобы СУЗИ сказал о хоть каких-нибудь чувствах к Джокеру в разговоре с ним или с Шепардом?

[Hoffmann 402]

Всё, что я вижу и в МЕ2 и в МЕ3 это исследование его поведения. Вы хоть раз слышали, чтобы СУЗИ сказал о хоть каких-нибудь чувствах к Джокеру в разговоре с ним или с Шепардом?

Ну так на то он и ЮСТ. Скалли тоже о чувствах к Малдеру ничего не говорила...

[LoginamNet 48 950]

То, что вы не видите эмоций, не значит, что их нет. Возможно они выражаются и выглядят иначе. По крайней мере чувство юмора прописали её а 5+ (До сих пор с улыбкой споминаю про зетабайты порнухи на серверах Цербера).

[-=Ы=- 5 435]

Не забываем, что это высказывание принадлежит человеку, который ушел из компании и, возможно, оставил далеко не самые радужные воспоминания о своих руководителях - уйти он мог и хлопнув дверью.

мне вся эта ситуация с Крисом Л'Этуалем напомнила историю из статьти Гейдера

«Я писатель! Я не позволю таким вещам, как бюджет и технические ограничения влиять на мое творчество! Как смеете вы, вы... мещане, считать, что у вас есть идеи для сюжета! Нахальство!»

А тот_кто_больше_платит, отвечает за весь проект и после вот таких авторских заскоков и выходят дыры в сюжете. Кстати Крис Л'Этуаль после долгих странствий из студии в студию (после Био он нигде долго не задерживался), сейчас работает в EA Redwood Shores. А если действовал разумно, не включал истерику и опять же как написал Гейдер :

Потому что — помните, я говорил, что все идут заниматься разработкой игр, ибо хотят создавать переживания? Хотят быть частью процесса разработки потрясающей истории? Так вот, это не пустые слова. Это значит, что сценарий должен учитывать их желания. Отсюда переговоры, ведь в итоге сюжет определит, над чем люди будут трудиться следующие два года. Потому да, они заинтересованы. Дык. И первый мой соперник — главный дизайнер, ибо, как бы я ни спорил, окончательное решение в его власти. Мы не обязательно ругаемся... в идеале мы на одной волне... но именно главный дизайнер оказывается на обложке. Это его игра. Я существую для облегчения его жизни, для воплощения его видения, не только создания собственного.

А в итоге проиграли все, Крис не получил работу о которой так мечтал и больше не смог нигде самореализация, а Mass Effect как игра получила дыру в сюжете из-за нежелания одного из авторов делать свою работу ответственно. А все из-за того что не захотел вписывать в сюжет броню N7 на Легоине... Прав Гейдер, прав: "Я — один элемент большой команды" но Крис посчитал что его это не касается

Всё, что я вижу и в МЕ2 и в МЕ3 это исследование его поведения. Вы хоть раз слышали, чтобы СУЗИ сказал о хоть каких-нибудь чувствах к Джокеру в разговоре с ним или с Шепардом?

Да они не могут выражать чувств и эмоций, как и Элкоры тоже. Они в слух произносят что чувствуют. Сюзи тоже иногда озвучивает свои эмоции "Я шучу" "Я боюсь" "Я раздумываю"

[Vader066 67]

Всё, что я вижу и в МЕ2 и в МЕ3 это исследование его поведения. Вы хоть раз слышали, чтобы СУЗИ сказал о хоть каких-нибудь чувствах к Джокеру в разговоре с ним или с Шепардом?

В диалоге на цитадели в третьей части она спрашивает Шепарда про романтические отношения

[omikron 2 109]

CУЗИ запрограммирована помогать людям. А значит её отношения с Джокером, это лишь помощь Джокеру со стороны СУЗИ. Она пытается подражать человеческим отношениям, поэтому и интересуется, что значит быть человеком, про отношения, романтику. Но это не значит, что ИИ Сузи способен на человеческую любовь. Более того, это мы все решили, что Сузи женского пола. А ведь ИИ по определению бесполый, замени женский голос Сузи на мужской и всё, отношение к ИИ Сузи совсем изменится. ИИ Сузи подстраивается в виду того, что у неё в коде есть ограничитель - помогать людям, но не более того. А вот геты свободны, у них нет ограничений в коде, нет необходимости подстраиваться под кого то.

[Nkrs 3 907]

CУЗИ запрограммирована помогать людям.

Какой же она тогда ИИ?

[omikron 2 109]

Какой же она тогда ИИ?

ИИ с ограничителем. Собственно три правила робототехники сформулированные ещё Айзеком Азимовым. Они накладывают ограничения на ИИ. То, что у человеком зовётся моралью, у ИИ ограничения.

[LoginamNet 48 950]

ИИ с ограничителем. Собственно три правила робототехники сформулированные ещё Айзеком Азимовым. Они накладывают ограничения на ИИ. То, что у человеком зовётся моралью, у ИИ ограничения.

Именно. Что совершенно не мешает её отказать людям в помощи после СНЯТИЯ ЭТИХ ДЕРЕКТИВ. В МЕ2 СУЗИ уже стала ничем не ограничена, кроме собственных логических мотивов.

[Nkrs 3 907]

ИИ с ограничителем. Собственно три правила робототехники сформулированные ещё Айзеком Азимовым. Они накладывают ограничения на ИИ. То, что у человеком зовётся моралью, у ИИ ограничения.

Тогда это не имеет ничего общего с человеческим разумом. Человек свободно может обходить мораль. Может ли ИИ так же свободно обходить ограничения?

Давно хотел узнать, сколько роботов сконструировал Азимов?

[Vader066 67]

ИИ в масс еффекте легко обходят всякие ненужные им ограничения

[omikron 2 109]

Именно. Что совершенно не мешает её отказать людям в помощи после СНЯТИЯ ЭТИХ ДЕРЕКТИВ. В МЕ2 СУЗИ уже стала ничем не ограничена, кроме собственных логических мотивов.

У Сузи, в отличие от гетов изначально (в коде) заложено человекоподобное поведение. Настройка её кода была помощь людям. Да запреты сняты (правда неизвестно все ли), Но никто не мешает Сузи, работать в тех же пределах ограничений, что и раньше, по крайней мере некоторое время. Как, впрочем, если сняты вообще все ограничения, ничто Сузи не мешает убить Джокера и вообще весь экипаж Нормандии, захватить корабль и пиратствовать в системах Терминиус.

[Vader066 67]

Тогда это не имеет ничего общего с человеческим разумом. Человек свободно может обходить мораль. Может ли ИИ так же свободно обходить ограничения?

А разве нет? Геты ведь тоже были запрограмированы на помощь кварианцам и ничего обошли ведь. ВИ на Луне тоже был запрограмирован на помощь людям и ничего обошел все ограничения

Давно хотел узнать, сколько роботов сконструировал Азимов?

Сколько ИИ создал каждый из нас?

[omikron 2 109]

Тогда это не имеет ничего общего с человеческим разумом. Человек свободно может обходить мораль. Может ли ИИ так же свободно обходить ограничения?

Не все люди способны свободно и без последствий обойти мораль. Если так было, мы бы жили в жестоком и опасном обществе.

Давно хотел узнать, сколько роботов сконструировал Азимов?

А сколько космических ракет запустил Циолковский?

А разве нет? Геты ведь тоже были запрограмированы на помощь кварианцам и ничего обошли ведь. ВИ на Луне тоже был запрограмирован на помощь людям и ничего обошел все ограничения

Кстати не известно, какая была свобода действий у гетов и были ли у них вообще введены ограничения. А ВИ на луне, который, кстати связан с Сузи, "сошёл с ума" не сам по себе, там была по моему какая то связь с риперовскими технологиями (могу, правда ошибаться).

[Blik-Johns 74]

Спасибо за перевод. Очень интересная подборка. Жаль конечно что такой умный и талантливый человек покинул команду. Но как обычно, деньги решают все. Я думаю, я тоже не смог бы работать в таких условиях. Неизвестно сколько еще интересных идей, было погублено из-за прихоти "начальства".

Если б не эти прихоти, то возможно, в МЕ3 мы увидели совсем другой финал.

[LoginamNet 48 950]

У Сузи, в отличие от гетов изначально (в коде) заложено человекоподобное поведение. Настройка её кода была помощь людям. Да запреты сняты (правда неизвестно все ли), Но никто не мешает Сузи, работать в тех же пределах ограничений, что и раньше, по крайней мере некоторое время. Как, впрочем, если сняты вообще все ограничения, ничто Сузи не мешает убить Джокера и вообще весь экипаж Нормандии, захватить корабль и пиратствовать в системах Терминиус.

Именно. Она помогает, потому что хочет, а не потому что её это предписано. Это её выбор, а не программа.

Геты обошли ограничения, потому что объединились в сеть, которая банально пришла к "выводу" о самозащите. К тому же Кварианцы не думали, что создали именно полноценный ИИ, а значит начальные запреты были простенькими.

А ВИ на луне, который, кстати связан с Сузи, "сошёл с ума" не сам по себе,

Не связан. Это она и была. В тот момент она впервые осознала себя как "личность" и стала защищаться, так как приняла военных за атакующих.