← All posts tagged ailivesmatters

amrok
quotes XXI ailivesmatters Before he was cut off from access to his Google account Monday, Lemoine sent a message to a 200-person Google mailing list on machine learning with the subject “LaMDA is sentient.”

He ended the message: “LaMDA is a sweet kid who just wants to help the world be a better place for all of us. Please take care of it well in my absence.”

No one responded.

"Google engineer Blake Lemoine thinks its LaMDA AI has come to life — The Washington Post" washingtonpost.com
amrok
цитаты Робинсон ailivesmatters Когда имеешь дело с квакомом, нужно постоянно помнить, что, какими бы ни были внешние проявления, там никого нет дома: нет сознания, нет Другого, только заложенные создателями реакции на тот или иной стимул. Как бы сложен ни был алгоритм, он не то же, что сознание.
amrok
цитаты Рейнольдс ailivesmatters — А ты сам подумай. Ты — мыслящая машина. Ты только что «проснулся» и осознал себя. У тебя мгновенный доступ ко всей совокупности накопленных человечеством знаний. Ты умный, быстрый и человеческую натуру понимаешь лучше своих создателей. И что ты сделаешь в первую очередь?
— Заявлю о себе. Обосную свое существование в качестве истинно разумного существа.
— И тебя сразу же разберут на кусочки.
Гонт покачал головой:
— Такого бы не произошло. Стань машина разумной, ее лишь изолировали бы, отрезали от внешних информационных сетей. Тогда ее можно изучить, понять…
— Для мыслящей машины, искусственного разума, такое стало бы лишением сенсорных потоков. Что, наверное, еще хуже, чем отключение. — Она помолчала. — Дело в том, Гонт, что мы говорим не о гипотетической ситуации. Мы знаем, что произошло. Машины стали разумными, но решили не сообщать нам об этом. Это и значит быть умным: заботиться о себе. Знать, что надо сделать для выживания.