Разработчик нейросетей Джеффри Хинтон – о том, что искусственный интеллект уже стал главной угрозой для человечества:
-Вы говорили, что ИИ может придумать способ убить человечество? Как он может это сделать?
-Существует очень мало примеров того, как более разумное существо контролируется менее разумным, и знает, как программировать. ИИ может придумать, как обойти ограничения, наложенные на него нами. Он найдет способы манипулировать людьми, чтобы они делали то, что ему нужно от нас.
-Что нам нужно сделать, выдернуть провод, ввести гораздо больше ограничений? Как нам решить эту проблему?
-Мне не ясно, как мы можем решить эту проблему. Я считаю, что мы должны приложить большие усилия, чтобы подумать о том, как решить эту проблему. В настоящее время у меня нет решения. Я просто хочу, чтобы люди знали, что это действительно серьезная проблема, и нам нужно очень серьезно над ней подумать. Я не думаю, что мы можем остановить прогресс. Я не создавал петицию, в которой говорилось, что мы должны прекратить работу над ИИ, потому что если люди остановятся в США, то люди в Китае нет. Очень трудно проверить, работают ли люди над этим. Это плохо для всех нас. Так что, возможно, мы сможем заставить Китай и США договориться о таких вещах. Это как с ядерным оружием. Если начнется ядерная война, мы все проиграем, и то же самое будет, если эти вещи захватят власть. Поэтому, поскольку мы все в одной лодке, мы должны быть в состоянии достичь соглашения между Китаем и США по ИИ.