Угроза вымирания человечества «преувеличена»

С тех пор, как шесть месяцев назад на сцене появилось стихотворение о ChatGPT, эксперт Гэри Маркус высказал предостережение против сверхбыстрой разработки и внедрения искусственного интеллекта. Но против апокалиптических предсказателей ИИ, почетный профессор Нью-Йоркского университета сказал в недавнем интервью, что экзистенциальные угрозы технологии в настоящее время могут быть «преувеличены». «Лично меня не беспокоит риск исчезновения , по крайней мере, сейчас, потому что сценарии не настолько конкретны», — сказал Маркус в Сан-Франциско. «Более общая проблема, которая меня беспокоит … заключается в том, что мы создаем системы искусственного интеллекта, над которыми у нас нет хорошего контроля, и я думаю, что это создает много рисков, (но), возможно, не буквально экзистенциальных». Задолго до появления ChatGPT Маркус разработал свою первую программу искусственного интеллекта в старшей школе — программное обеспечение для перевода с латыни на английский — и после нескольких лет изучения детской психологии основал Geometric Intelligence, компанию по машинному обучению, позже приобретенную Uber. «Почему ИИ?» В марте, встревоженный тем, что OpenAI, создатель ChatGPT, совместно с Microsoft выпускает свою последнюю и более мощную модель ИИ, Маркус подписал открытое письмо, в котором приняли участие более 1000 человек, включая Илона Маска, призывая к глобальной паузе в разработке ИИ. Но на прошлой неделе он не подписал более краткое заявление бизнес-лидеров и специалистов, в том числе босса OpenAI Сэма Альтмана, которое вызвало переполох. Подписанты настаивали на том, что мировые лидеры должны работать над снижением «риска исчезновения» технологий искусственного интеллекта. В однострочном заявлении говорится, что устранение рисков, связанных с ИИ, должно быть «глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война». Среди подписантов были те, кто создает системы с целью достижения «общего» ИИ, технологии, которая будет поддерживать когнитивные способности наравне с человеческими. «Если вы действительно считаете, что существует экзистенциальный риск, почему вы вообще работаете над этим? Это довольно справедливый вопрос», — сказал Маркус. Маркус предположил, что вместо того, чтобы сосредотачиваться на более надуманных сценариях, в которых никто не выживает, общество должно обратить внимание на то, где таятся настоящие опасности. «Люди могут попытаться манипулировать рынками, используя ИИ, чтобы вызвать разного рода хаос, а затем мы можем, например, обвинить русских и сказать: «Посмотрите, что они сделали с нашей страной», когда русские на самом деле не были замешаны. ,» он продолжил. «У вас (могла) быть эта эскалация, которая закончилась бы ядерной войной или чем-то в этом роде. Так что я думаю, что есть сценарии, в которых это было довольно серьезно. Исчезновение? Я не знаю». Угроза демократии В краткосрочной перспективе эксперта по психологии беспокоит демократия. Программное обеспечение для генера...

Сообщает android-robot.com

 

Опубликовано: 01:18, 06.06.2023

 

Новость из рубрики: Технологии, Наука

 

Поделиться новостью:

 

Топ новости часа

• «Как вы с такой фигнёй собираетесь выходить на IPO»: дебаты Фёдора Овчинникова с франчайзи «Додо пиццы»...
• Для помощи общественным организациям ЛНР в регистрации НКО по инициативе «Единой России» в Луганске на базе гуманитарного центра партии организован Центр поддержки гражданских инициатив...
• Что происходит с ценами на недвижимость в странах, куда эмигрируют россияне...
• Агент Сафонов о Йокановиче: «Не подходит РПЛ по менталитету. Ни накричать не может, ни напихать. Слишком спокойный»...
• Бренд Infinix выходит на украинский рынок с новыми смартфонами – Infinix HOT 11s и Infinix SMART 6 уже можно купить по цене от 2 899 грн...
• Ким Кардашьян снялась для обложки Allure и дала интервью: "Я смирилась с тем, что я не идеальна. Ненавижу свои руки"...