Человечество продолжает создавать себе разумных преемников.
До сих пор люди всерьез боятся того, что ИИ, став умнее, сможет уничтожить человечество. Возможно ли это на самом деле?
Согласно теории, достижения в области ИИ, в частности, в области машинного обучения, способного воспринимать новую информацию и соответствующим образом переписывать ее код, в конечном итоге смогут превзойти возможности биологического мозга. При такой интерпретации событий каждый прогресс ИИ — от машин IBM, которые выигрывают людей в Jeopardy, до масштабной языковой модели ИИ GPT-3 - приближает человечество на один шаг к экзистенциальной угрозе. Мы буквально создаем наших будущих разумных преемников. Стоит ли этого бояться?
Сможет ли ИИ править миром?
По мнению авторов новой книги «Почему машины никогда не будут править миром: искусственный интеллект без страха», это невозможно. Профессор философии Университета Буффало Барри Смит и Джобст Ландгребе, основатель немецкой ИИ-компании Cognotekt, утверждают, что человеческий интеллект не будет превзойден «бессмертным диктатором» ни в ближайшее время, ни когда-либо.
Все дело в том, что многие из самых важных вещей в мире происходят на уровнях детализации, к которым мы не можем приблизиться. У нас просто нет и, вероятно, никогда не будет оборудования, позволяющего запечатлеть большую часть того, что происходит на самых тонких уровнях организации мозга. Это означает, что мы не знаем, например, что отвечает за сознание. На самом деле существует ряд довольно интересных философских проблем, которые, согласно методу, которому мы следуем, всегда будут неразрешимыми – и поэтому мы должны просто игнорировать их.
Другая причина - свобода воли. Мы очень решительно поддерживаем идею о том, что у людей есть воля; у нас могут быть намерения, цели и так далее. Но мы не знаем, является ли это свободной волей. Это проблема, связанная с физикой мозга. Насколько нам известно, компьютеры не могут иметь воли.
Каждая система ИИ имеет математическую природу. Поскольку мы не можем математически моделировать сознание, волю или интеллект, их нельзя имитировать с помощью машин. Поэтому машины не станут разумными, не говоря уже о сверхразумности.
Структура нашего мозга допускает только ограниченные модели природы. В физике мы выбираем подмножество реальности, которое соответствует нашим возможностям математического моделирования. Именно так Ньютон, Максвелл, Эйнштейн или Шредингер получили свои знаменитые и красивые модели. Но они могут описывать или предсказывать только небольшой набор систем. Наши лучшие модели — это те, которые мы используем для разработки технологий. Мы не в состоянии создать полную математическую модель живой природы.
techinsider.ru
До сих пор люди всерьез боятся того, что ИИ, став умнее, сможет уничтожить человечество. Возможно ли это на самом деле?
Согласно теории, достижения в области ИИ, в частности, в области машинного обучения, способного воспринимать новую информацию и соответствующим образом переписывать ее код, в конечном итоге смогут превзойти возможности биологического мозга. При такой интерпретации событий каждый прогресс ИИ — от машин IBM, которые выигрывают людей в Jeopardy, до масштабной языковой модели ИИ GPT-3 - приближает человечество на один шаг к экзистенциальной угрозе. Мы буквально создаем наших будущих разумных преемников. Стоит ли этого бояться?
Сможет ли ИИ править миром?
По мнению авторов новой книги «Почему машины никогда не будут править миром: искусственный интеллект без страха», это невозможно. Профессор философии Университета Буффало Барри Смит и Джобст Ландгребе, основатель немецкой ИИ-компании Cognotekt, утверждают, что человеческий интеллект не будет превзойден «бессмертным диктатором» ни в ближайшее время, ни когда-либо.
Все дело в том, что многие из самых важных вещей в мире происходят на уровнях детализации, к которым мы не можем приблизиться. У нас просто нет и, вероятно, никогда не будет оборудования, позволяющего запечатлеть большую часть того, что происходит на самых тонких уровнях организации мозга. Это означает, что мы не знаем, например, что отвечает за сознание. На самом деле существует ряд довольно интересных философских проблем, которые, согласно методу, которому мы следуем, всегда будут неразрешимыми – и поэтому мы должны просто игнорировать их.
Другая причина - свобода воли. Мы очень решительно поддерживаем идею о том, что у людей есть воля; у нас могут быть намерения, цели и так далее. Но мы не знаем, является ли это свободной волей. Это проблема, связанная с физикой мозга. Насколько нам известно, компьютеры не могут иметь воли.
Каждая система ИИ имеет математическую природу. Поскольку мы не можем математически моделировать сознание, волю или интеллект, их нельзя имитировать с помощью машин. Поэтому машины не станут разумными, не говоря уже о сверхразумности.
Структура нашего мозга допускает только ограниченные модели природы. В физике мы выбираем подмножество реальности, которое соответствует нашим возможностям математического моделирования. Именно так Ньютон, Максвелл, Эйнштейн или Шредингер получили свои знаменитые и красивые модели. Но они могут описывать или предсказывать только небольшой набор систем. Наши лучшие модели — это те, которые мы используем для разработки технологий. Мы не в состоянии создать полную математическую модель живой природы.
techinsider.ru
