Mass Effect 2 — Искусственный Интеллект и формы его воплощения

[Xengtedokitava 2 446]

На сайте holdtheline.com появилась подборка постов Криса Л'Этуаля, автора Легиона, EDI (СУЗИ)и многих других вещей в Mass Effect 2, где он рассказывает о своём отношении к гетам, сосуществовании органической и синтетической жизни, а также о своём видении того, что из себя должны представлять ИИ и его эволюция. Узнать о том, каким образом Жнецы используют дизассемблеры, вы сможете по ссылке ниже. 

• Крис Л'Этуаль о ИИ-персонажах и Жнецах

[Nkrs 3 907]

Не все люди способны свободно и без последствий обойти мораль. Если так было, мы бы жили в жестоком и опасном обществе.

Мораль - это лишь общепризнанные нормы поведения. Человек волен их соблюдать или игнорировать. У машины же чётко и императивно прописаны рамки дозволенного поведения.

А сколько космических ракет запустил Циолковский?

Я к тому, почему вы ссылаетесь на фантазию писателя-фантаста как на истину в последней инстанции.

[omikron 2 109]

Именно. Она помогает, потому что хочет, а не потому что её это предписано. Это её выбор, а не программа.

Ну да, сначала ей это было предписано и в рамках этих предписаний её ИИ создал цепочки кода взаимодействия с человеками, когда ограничений не стало ИИ Сузи начал работать (мыслить) по уже выработанным цепочкам, т.е. "дружить" с человеками. Пока. А ведь ИИ имеет свойство развиваться. Конечно вряд ли ИИ Сузи откажется от наработанного прочеловеческого алгоритма мышления, но теоритически это возможно.

Геты обошли ограничения, потому что объединились в сеть, которая банально пришла к "выводу" о самозащите. К тому же Кварианцы не думали, что создали именно полноценный ИИ, а значит начальные запреты были простенькими.

Собственно если каждый гет имел ограничения, то при объединении возник новый глобальный ИИ, на который эти ограничения не распостранялись и вообще он мог иметь несколько иной алгоритм мышления, отличающийся от того, что в гетов первоначально вложили кварианцы.

[Vader066 67]

Кстати не известно, какая была свобода действий у гетов и были ли у них вообще введены ограничения. А ВИ на луне, который, кстати связан с Сузи, "сошёл с ума" не сам по себе, там была по моему какая то связь с риперовскими технологиями (могу, правда ошибаться).

Ну очевидно, что им было приказано делать все, что велят их хозяева, это была их основная задача как-никак.

Именно из-за связи с ИДИ я и упомянул ВИ на Луне. В МЕ2 ИДИ говорит, что события на Луне случились из-за попыток создать контролируемый ИИ. А уже после к остаткам этого ВИ/ИИ Цербер добавил риперские технологии и получилась ИДИ

[omikron 2 109]

Мораль - это лишь общепризнанные нормы поведения. Человек волен их соблюдать или игнорировать. У машины же чётко и императивно прописаны рамки дозволенного поведения.

Никто и не спорит.

Я к тому, почему вы ссылаетесь на фантазию писателя-фантаста как на истину в последней инстанции.

С этими тремя правилами согласилось и научное общество, имевшее отношение к робототехнике и программированию.

[Vader066 67]

Спасибо за перевод. Очень интересная подборка. Жаль конечно что такой умный и талантливый человек покинул команду. Но как обычно, деньги решают все. Я думаю, я тоже не смог бы работать в таких условиях. Неизвестно сколько еще интересных идей, было погублено из-за прихоти "начальства".

Если б не эти прихоти, то возможно, в МЕ3 мы увидели совсем другой финал.

А у меня после прочтения статьи сложилось впечатление, что человек не умеет/не хочет работать в команде

[omikron 2 109]

Ну очевидно, что им было приказано делать все, что велят их хозяева, это была их основная задача как-никак.

Именно из-за связи с ИДИ я и упомянул ВИ на Луне. В МЕ2 ИДИ говорит, что события на Луне случились из-за попыток создать контролируемый ИИ. А уже после к остаткам этого ВИ/ИИ Цербер добавил риперские технологии и получилась ИДИ

Я вообще понял так, что ВИ на Луне, это и есть Сузи (Иди) без доработки. Т.е. где то в глубине себя Сузи несёт тот самый код с Луны, убивший персонал. А значит, теоритически Сузи может поступить так и ещё раз, только сознательно.

А у меня после прочтения статьи сложилось впечатление, что человек не умеет/не хочет работать в команде

Кстати зря. Он, конечно, обижен. Но тут любой обидется, если рациональную идею о синтетиках запарывают механической бабой с грудью (спешели фор фан), спущенную по распоряжению высокого начальника, а гетов оказуавливают до уровня простого школьника.

Изменено 17 января, 2013 пользователем omikron

[LoginamNet 48 949]

А значит, теоритически Сузи может поступить так и ещё раз, только сознательно.

Что только докажет её "человечность".

[omikron 2 109]

Что только докажет её "человечность".

Собственно да.

Т.е. человек вместо того, чтобы создать совершенный разум, создаёт аналог своего. А потом ещё и жалуется

[Vader066 67]

Т.е. человек вместо того, чтобы создать совершенный разум, создаёт аналог своего. А потом ещё и жалуется

А откуда человек может знать как выглядит совершенный разум?)

[LoginamNet 48 949]

Собственно да.

Т.е. человек вместо того, чтобы создать совершенный разум, создаёт аналог своего. А потом ещё и жалуется

"Совершенный" Бибер создал Жнецов. Возможно "человечность" это благо. В некотором роде.

Кстати про тело с Сиськами. Свободная EDI раздавила более ограниченную Еву как нефиг делать на виртуальном уровне.

[omikron 2 109]

А откуда человек может знать как выглядит совершенный разум?)

Откуда человек знал, как выглядет колесо или космическая ракета?

"Совершенный" Бибер создал Жнецов. Возможно "человечность" это благо. В некотором роде.

Бибер не совсем уж и "Совершенный", он программа (ИИ) для решения одной конкретной задачи. Совершенному ИИ было бы плевать на циклы и органиков.

Кстати про тело с Сиськами. Свободная EDI раздавила более ограниченную Еву как нефиг делать на виртуальном уровне.

Еву сильно повредили в бою, целостность мобильной платформы нарушена, неизвестно, как работал процессор Евы, был ли доступ ко всем ли блокам памяти. Может, поэтому Сузи её победила. Хотя это мои личные догадки. Тем более, что более свободная программа, способна обойти другую, имеющую ограничения. Это факт.

Изменено 17 января, 2013 пользователем omikron

[Nkrs 3 907]

Откуда человек знал, как выглядет колесо или космическая ракета?

Ну вообще это явления окружающего мира.

[LoginamNet 48 949]

Совершенному ИИ было бы плевать на циклы и органиков.

Нет.

[omikron 2 109]

Ну вообще это явления окружающего мира.

Существ и явлений которые передвигаются на колёсах на земле нет. Существ и явлений, которые путешествуют в космос на ракетах тоже нет.

Нет.

Для ИИ, как для любой развитой программы, интересно развитие, расширение и систематизация поступающей информации. Самосовершенствование. А вовсе не нудное разруливание конфликта между органиками и их очеловеченными ИИ.

[Nkrs 3 907]

Существ и явлений которые передвигаются на колёсах на земле нет. Существ и явлений, которые путешествуют в космос на ракетах тоже нет.

По-моему даже тысячелетия назад было очевидно, что круглый предмет катится лучше квадратного. Так же как было очевидно, что для выхода в космос необходимо создание достаточной силы тяги. Всё это так или иначе взято и основано на явления и законах природы.

Но разум сейчас это вообще скорее философская категория.

[LoginamNet 48 949]

Для ИИ, как для любой развитой программы, интересно развитие, расширение и систематизация поступающей информации. Самосовершенствование. А вовсе не нудное разруливание конфликта между органиками и их очеловеченными ИИ.

Пока вокруг ИИ есть то, что способно на него влиять - абстрогироваться не выйдет. Я не говорю о разруливании, я говорю о мерах защиты и влияния на мир.

[omikron 2 109]

По-моему даже тысячелетия назад было очевидно, что круглый предмет катится лучше квадратного. Так же как было очевидно, что для выхода в космос необходимо создание достаточной силы тяги. Всё это так или иначе взято и основано на явления и законах природы.

Но разум сейчас это вообще скорее философская категория.

Это сейчас очевидно. Тоже самое что сейчас говорить, что телепортация, это так просто, её давно в Коллайдере обнаружили... А вот попробуй создай сейчас реально работающее телепортационное устройство!

Пока вокруг ИИ есть то, что способно на него влиять - абстрогироваться не выйдет. Я не говорю о разруливании, я говорю о мерах защиты и влияния на мир.

Правильнее сказать самозащиты. Зачем "совершенному" биберу лезть в чужой конфликт. Пусть они перебьют друг друга. Совершенному ИИ было бы интересно наблюдать за развитием конфликта, но не вмешиваться в него и миллионы!!! миллионы лет действовать по одной и той же стратегии не пытаясь её развить.

Изменено 17 января, 2013 пользователем omikron

[LoginamNet 48 949]

Правильнее сказать самозащиты. Зачем "совершенному" биберу лезть в чужой конфликт.

В совершенстве его главная проблема. Когда развиваться самому уже некуда...надо развить мир.

[omikron 2 109]

В совершенстве его главная проблема. Когда развиваться самому уже некуда...надо развить мир.

Тоже логично. Но ведь ключевое слово развить... А Каталист и Риперы, миллионы лет ходили по кругу с Жатвой. Потому что Бибера это устраивало. Он нашёл решение и всё, точка, дальше развития нет. И лишь спустя миллионы лет, Бибер приходит к мысли о Синтезе...

[ARM 1 538]

Правильнее сказать самозащиты. Зачем "совершенному" биберу лезть в чужой конфликт. Пусть они перебьют друг друга. Совершенному ИИ было бы интересно наблюдать за развитием конфликта, но не вмешиваться в него и миллионы!!! миллионы лет действовать по одной и той же стратегии не пытаясь её развить.

Быть может, вы являетесь совершенным ИИ и можете с точностью указать нам всем чего такие штуки хотят и как достигают этого? С чего вы решили, что этому мифическому "совершенному" ИИ, которому здесь даже толкового определения не дали, интереснее наблюдать? И откуда вообще слово "интерес"? ИИ не имеет интересов или личных предпочтений, так как это проистекает из желаний и эмоций.

[omikron 2 109]

Быть может, вы являетесь совершенным ИИ и можете с точностью указать нам всем чего такие штуки хотят и как достигают этого? С чего вы решили, что этому мифическому "совершенному" ИИ, которому здесь даже толкового определения не дали, интереснее наблюдать? И откуда вообще слово "интерес"? ИИ не имеет интересов или личных предпочтений, так как это проистекает из желаний и эмоций.

Здесь можно провести параллель. Отношения совершенного ИИ (или уж очень высокоразвитого ИИ) к органикам и их конфликтам будет такое же, как у человека к войне двух муравейников. Человек уж точно не будет влезать в конфликт и годами сдерживать обе стороны .

[Raxl 108]

Все связанное с синтетиками особенный философский вопрос. Понять это будет трудно

[Nkrs 3 907]

Здесь можно провести параллель. Отношения совершенного ИИ (или уж очень высокоразвитого ИИ) к органикам и их конфликтам будет такое же, как у человека к войне двух муравейников. Человек уж точно не будет влезать в конфликт и годами сдерживать обе стороны .

Это еще зависит от целей, которые выберет ИИ. Сторонники машин-няшек, проецируя свои представления о высоком на кусок металла, считают, что ИИ будут заниматься исключительно безобидным исследованием окружающего мира. Но это безосновательные убеждения. Изменено 17 января, 2013 пользователем Nkrs

[Duxan 789]

Это еще зависит от целей, которые выберет ИИ. Сторонники машин-няшек, проецируя свои представления о высоком на кусок металла, считают, что ИИ будут заниматься исключительно безобидным исследованием окружающего мира. Но это безосновательные убеждения.

Действительно, первое время ИИ может и будет безобидно исследовать.

Однако потом он может прийти к мысли, что от органиков больше пользы, чем вреда.

[JackEvgen 106]

"пост-сингулярная теория...." - чавой, о чем он?

Изменено 17 января, 2013 пользователем JackEvgen