Войти  Зарегистрироваться

  • Главная
  • Топ Статей
  • Страны
  • Расчеты показывают, что управлять сверхразумным ИИ будет невозможно

    Идея о поработившем человечество искусственном интеллекте обсуждалась на протяжении многих десятилетий, но лишь недавно ученые вынесли свой вердикт о том, сможем ли мы контролировать сверхразумный интеллект высокого уровня. Каков ответ? С огромной долей вероятности — нет.

    искусственный интеллект

    Камень преткновения в том, что для контроля выходящего далеко за пределы человеческого понимания сверхразума потребуется симуляция этого сверхразума, которую мы можем проанализировать. Но если мы не в состоянии это понять, такую ​​симуляцию построить не получится.

    Читайте также: Квантовый компьютер выполнил задачу на 2.5 миллиарда лет за три минуты

    Невозможно будет установить правила, если мы не понимаем, какие сценарии будет предлагать ИИ. Когда компьютерная система работает на уровне, превышающем возможности наших программистов, мы больше не можем устанавливать ограничения. Супер-интеллект представляет собой принципиально другую проблему, чем те, которые обычно изучаются в рамках исследования этики роботов.

    сверхразум

    Суперинтеллект многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые потенциально непонятны для людей, не говоря уже о том, чтобы их можно было контролировать. В подборке под названием "Технологии будущего и реальность" вы можете подробнее почитать о других вызовах человечеству.

    Часть рассуждений команды исходит из проблемы остановки, выдвинутой Аланом Тьюрингом в 1936 году. Проблема заключается в знании того, придет ли компьютерная программа к выводу и ответу (после чего остановится), или просто зациклится на бесконечности, пытаясь его найти.

    Как утверждал Тьюринг, для некоторых конкретных программ логически невозможно найти способ, который позволит предсказать ее конечные действия. Это возвращает нас к ИИ, который в сверхразумном состоянии может реально удерживать в своей памяти сразу все возможные компьютерные программы.

    Любая программа, написанная для остановки ИИ на случай причинения вреда людям, может прийти к выводу (и остановиться), или зациклиться — для нас математически невозможно быть абсолютно уверенными, а это означает, что ее невозможно сдержать.

    «По сути, это делает алгоритм сдерживания непригодным для использования», — говорит ученый Ияд Рахван из Института человеческого развития им. Макса Планка в Германии.

    искусственный разум

    Альтернативой обучению ИИ некоторой этике и запрету разрушать мир — в чем, по мнению исследователей, не может быть абсолютно уверен ни один алгоритм — является ограничение возможностей сверхразума. Например, он может быть отключен от части Интернета или от определенных сетей.

    Новое исследование также отвергает эту идею, предполагая, что это ограничит возможности искусственного интеллекта — аргумент гласит, что если мы не собираемся использовать его для решения проблем, выходящих за рамки человеческих возможностей, то зачем вообще его создавать?

    «Сверхразумная машина, управляющая миром, звучит как научная фантастика», — говорит ученый-компьютерщик Мануэль Себриан из Института развития человека им. Макса Планка. «Но уже есть машины, которые самостоятельно выполняют определенные важные задачи, а программисты полностью не понимают, как они этому научились».

    Поэтому возникает вопрос, может ли искусственный интеллект в какой-то момент стать неконтролируемым и опасным для человечества?

    14 января 2021 | Категории: Технологии

    Оцените статью, поделившись с друзьями
    Либо с помощью кнопки:
    Понравилась Не понравилась
    Рейтинг:+2
    Автор статьи: Koller Просмотров:447

    Еще в разделе:

    • Ученые открыли более эффективный способ опреснения водыУченые открыли более эффективный способ опреснения воды
    • Как выбрать новый смартфон? На что обратить внимание?Как выбрать новый смартфон? На что обратить внимание?
    • Опасны ли Wi-Fi и Bluetooth в плане излучения?Опасны ли Wi-Fi и Bluetooth в плане излучения?
    • Дисплеи смартфонов смогут «залечивать» собственные трещиныДисплеи смартфонов смогут «залечивать» собственные трещины
    • Топ-20 старых видеоигр, потрясших мирТоп-20 старых видеоигр, потрясших мир
    • Что такое темная материя. Как люди узнали о ее существовании?Что такое темная материя. Как люди узнали о ее существовании?
    • Почему самолеты чаще всего красят в белый цвет?Почему самолеты чаще всего красят в белый цвет?
    • Можем ли мы вернуть к жизни вымерших животных?Можем ли мы вернуть к жизни вымерших животных?
    • Зонд Hayabusa2 возвращается на Землю с образцами астероидовЗонд Hayabusa2 возвращается на Землю с образцами астероидов
    • Квантовый компьютер выполнил задачу на 2,5 миллиарда лет за 3 минутыКвантовый компьютер выполнил задачу на 2,5 миллиарда лет за 3 минуты

    Категории:

    • »Места
    • »Люди
    • »События
    • »История
    • »Путешествия
    • »Спорт
    • »Юмор
    • »Топпер
    • »Авто
    • »Кухня
    • »Искусство
    • »Кино
    • »Музыка
    • »Природа
    • »Фото
    • »Другое
    • »Технологии
    • »Архитектура
    FBTwitter

    Места

    • »Австралия
    • »Азия
    • »Африка
    • »Европа
    • »Россия
    • »Северная Америка
    • »Украина
    • »Южная Америка
    Использование материалов возможно только при условии размещения обратной ссылки © 2009-2021
    Контакты | О сайте