420
Предположим, что существует #Зловещаядолина для разработчиков AI (искусственного интеллекта).
Во-первых, некоторый необходимый фон. Одно из самых неприятных этических сомнений, связанных с #AI, заключается в том, что людей можно обмануть, заставив поверить в то, что система AI разумна. Имейте в виду, что на сегодняшний день нет ни одного AI, который хотя бы отдалённо приблизился к тому, чтобы быть разумным. Просто в данный момент этого не происходит.
Многие предупреждают, что если нам каким-то образом удастся добиться разумности AI, будь то намеренно или случайно, мы столкнёмся с экзистенциальным риском. Риск заключается в том, что этот разумный AI может решить, что людей не стоит иметь рядом с собой. Нас могут раздавить, как букашек. Или сделать рабами AI. Это может произойти из-за того, что AI сам решит сделать это, или AI может в конечном итоге стать нашей собственной машиной #судногодня, которая уничтожит нас из-за нашей собственной несостоятельности.
vestnik-glonass.ru/~vNVJp