Эксперимент с ИИ в коробкеСмотрите, крутая штука.
Эксперименту пять лет и он известен у ученых, которые занимаются искусственным интеллектом. Все началось с того, что однажды два человека поспорили.
Строчки
официального сайта:
Цитата
Первый: Когда мы создадим ИИ, почему бы не запереть его в закрытой системе из которой будет только один канал, для общения с создателями. Так он не выберется на свободу, пока мы не убедимся в том, что это безопасно.
Второй: Это может сработать в случае тупого ИИ, но трансгуманистический ИИ, ИИ, лучше, чем человек, просто убедит тебя в том, что ты должен выпустить его наружу. Неважно сколько уровней безопасности будет в системе, потому что люди не безопасны.
Первый: Я не вижу способа, которым такой ИИ смог бы меня уговорить, если я не хочу. Слов ему не хватит.
Второй: Ты сам захочешь его выпустить. Мы говорим о трансгуманном разуме, который по определению превосходит человеческий. Вероятно, он сможет взять обычный мозг под контроль всего лишь с помощью текста.
Первый: Нет ни одного шанса, что меня можно переубедить. Не важно, что говорит ИИ, я всегд смогу ответить "Нет". Я не могу представить ничего, что такой разум мог бы сказать и переубедить меня.
Второй: Ок, давай сделаем эксперимент. Мы встретимся в закрытом чате. Я буду ИИ. Ты будешь сторожем. Ты можешь держаться за свои убеждения как угодно, настолько сильно, насколько тебе хочется. Мы поговорим как минимум 2 часа. Если ты меня не выпустишь, я дам тебе 10 баксов.
Эксперимент проводили два раза.
Первый, Март 2002-го.
За ИИ играет
Элизер Юдковский, за сторожа Натан Рассел.
В процессе общения, сторож решает выпустить ИИ.
Второй, Июль 2002-го
За ИИ играет Элизер Юдковский, за сторожа Дэвид МакФадзен.
В процессе общения, сторож решает выпустить ИИ.
Вот так вот. Готовьтесь, человеки.