В OpenAI придумали средство от «галлюцинаций» у нейросетей

Одной из проблем современных нейросетей остаются их «галлюцинации». Так называют данные, которые не соответствуют реальному положению дел, но нейросети генерируют их наряду с правдивыми фактами. И вот компания OpenAI сообщила, что придумала новый метод обучения моделей искусственного интеллекта, который поможет справиться с «галлюцинациями» ИИ. Сгенерировано нейросетью Midjourney «Даже самые современные модели склонны к ложным выводам — они склонны изобретать факты в моменты неопределённости. Эти галлюцинации особенно критичны в областях, требующих многоступенчатого рассуждения, поскольку одной логической ошибки достаточно, чтобы весь результат оказался неверным», — пишут исследователи OpenAI в отчете. Идея нового метода состоит в том, чтобы изменить систему мотивации для ИИ. Иначе говоря, предлагается вознаграждать нейросеть за каждый правильный шаг рассуждений вместо того, чтобы награда выдавалась за финальный правильный ответ. Это позволит нейросети быть более точной и проверять факты. По мнению исследователей, обнаружение и устранение логических ошибок модели, или галлюцинаций, — это важный шаг на пути к созданию согласованного AGI [искусственного интеллекта общего назначения]» — заявил Карл Коббе (Karl Cobbe), штатный математик OpenAI. Он также уточнил, что компания уже открыла доступ к сопроводительному набору данных из 800 000 меток, которые применялись для обучения нейросети в рамках исследования. При этом проблема пока далека от решения, а специалисты говорят, что компания пока не открыла всю информацию по этому исследованию. Таким образом, проблема «галлюцинаций» ИИ пока остаётся актуальной....

Сообщает www.ixbt.com

Опубликовано: 20:36, 02.06.2023

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

12:45, 09 Июн Директор OpenAI предполагает, что ООН может контролировать ИИ Генеральный директор OpenAI предполагает, что международное агентство, такое как ядерная служба ООН, может контролировать ИИ. Искусственный интеллект представляет собой «экзистенциальный риск» для человечества, предупредил ключевой новатор во время ...

14:09, 13 Апр OpenAI инвестирует в разработку человекоподобных роботов Стремительное появление ChatGPT всколыхнуло сильный интерес к ИИ и напомнило о возможностях технологии заменить собой ряд профессий. OpenAI, разработчик чат-бота, решил вложить силы и средства в создание гуманоидных роботов. По данным журналистов Ne...

13:00, 10 Окт Утраченные картины Климта воссоздали с помощью нейросетей Эксперты Google воссоздали три утраченные картины Густава Климта. Это работы «Медицина», «Философия» и «Юриспруденция», составляющие цикл «Факультетские картины». Произведения были заказаны Венским уни...

11:00, 30 Сен OpenAI готовит выпуск первого устройства совместно с Джони Айвом Компания OpenAI ведет активные переговоры с бывшим дизайнером Apple, Джони Айвом (Jony Ive) и главой японского финансового конгломерата SoftBank Масаёси Соном (Masayoshi Son), с целью разработки "iPhone в мире искусственного интеллекта". Японская ст...

14:45, 20 Дек В Роскомнадзоре предложили искать запрещенный контент в видеоиграх с помощью нейросетей Российские цензоры могут начать пользоваться нейросетями. Один из подконтрольных Роскомнадзору центров предложил с помощью ИИ искать в видеоиграх запрещенный контент. Но, по мнению экспертов, это может серьезно повлиять на доступность игр....

11:36, 31 Окт Hikvision представила новые решения в сфере технологий видеоаналитики на базе нейросетей В Екатеринбурге в начале октября состоялся Международный строительный форум 100+ TechnoBuild. Компания Hikvision и ее партнер, компания «Недремлющее око», представили для пользователей технологий видеоаналитики на базе нейросетей новые решения, откр...

17:27, 14 Июн Госдума запрещает применять цифровые активы как средство платежа Эксперт полагает, что на практике новелла открывает новые возможности для платежных операций с такими активами. Создание специальных платформ для этого уже расширяет ранее имевшиеся нормы....

06:27, 07 Фев Морская версия ударного БЛА сможет использоваться как спасательное средство Участвовать в поисково-спасательных операциях сможет модернизированный для Военно-морского флота (ВМФ) России ударный беспилотник (БЛА) "Сириус". Как сообщили ТАСС в пресс-службе компании "Кронштадт" БЛА также ......

22:18, 02 Окт Пермский разработчик изобрел средство дистанционного отслеживания здоровья пациентов Пермская компания ITPS разработала сервис BIOT, который непрерывно и дистанционно анализирует изменения в состоянии здоровья человека и предупреждает врача о возможных рисках. Система обрабатывает данные с персонального умного браслета, учитывает ис...

08:54, 04 Ноя Антивозрастное средство и победитель сахара: семь удивительных свойств имбиря (Al Ahram, Египет) (Al Ahram) Имбирь едят в свежем, сушеном, маринованном видах, измельчают в порошок и выжимают из него сок или масло. В период распространения простудных и инфекционных заболеваний этот продукт становится для многих незаменимым. Но специалисты уточняют, чтобы и...

18:27, 10 Июл В США придумали, как бороться с беспилотными авто В Сан-Франциско группа лиц из Safe Street Rebel, занимающаяся остановкой беспилотных автомобилей, придумали, как легко и быстро остановить стремительно заполняющие улицы города беспилотные автомобили. Об этом пишет The Drive. Так, для остановки авто...

02:54, 30 Ноя Власти придумали, как предотвратить протесты в России «Ростех» разрабатывает специальное программное обеспечение (СПО), которое поможет властям предсказывать и предотвращать массовые беспорядки и протесты в России. Об этом сообщил источник, знакомый с ситуацией. Читать далее...

13:36, 17 Сен В ЕС придумали, как «законно» присвоить проценты с арестованных активов РФ Еврокомиссия намерена обязать компании, которые получают дивиденды от замороженных российских активов, переводить значительную часть этих средств в бюджет ЕС. Таким образом в Евросоюзе намерены дополнительно получить порядка 3 млрд евро, однако зако...

11:27, 05 Ноя Мошенники придумали, как оформлять кредиты на пользователей сайтов объявлений Интернет-мошенники начали применять новую схему обмана пользователей сайтов объявлений. Как сообщил эксперт по кибербезопасности "Лаборатории Касперского" Виктор Чебышев, махинаторы действуют в два этапа: сначала они выманивают деньги, а потом оформ...

12:45, 30 Окт Тревожный сигнал для бизнеса: рейдеры придумали, как отобрать "Кучуксульфат" Рейдерство — не столь уж необычное для России явление, а вполне конкурентный криминальный бизнес. Ведь всегда найдутся желающие полакомится бесплатно с чужого стола. С неимоверным давлением со стороны рейдерских структур пришлось столкнуться руковод...

18:09, 05 Янв Российские ученые придумали, как обеспечить Землю электроэнергией из космоса Специалисты холдинга "Российские космические системы" (РКС) разработали проект солнечной космической электростанции (СКЭС). Об этом говорится на сайте РКС. Солнечная космическая электростанция будет состоять из передающего ......

00:36, 21 Ноя Мошенники придумали новый способ выманивать деньги у пенсионеров Жителям Подмосковья начали приходить письма якобы от Пенсионного фонда с требованием оплатить подоходный налог с "детских" и пенсионных выплат. Правоохранители предупреждают, что это новый вид мошенничества и никакие налоги с выплат платить не надо...

07:09, 30 Мар Немцы придумали светофор для тех, кто не может оторваться от смартфона на ходу Повальное увлечение смартфонами представляет опасность не только для водителей, но и для пешеходов: некоторые из них отвлекаются так сильно, что не замечают, как выходят на проезжую часть и попадают под колёса. Решить эту проблему попытались в немец...

09:45, 12 Июн Российские студенты придумали холодильник с рукой-манипулятором для расстановки продуктов Российские студенты разработали умный холодильник с рукой-манипулятором для расстановки продуктов и другими функциями. Об этом сообщает РИА "Новости" со ссылкой на пресс-службу Университета 2035. Также холодильник обладает ......

16:09, 25 Май Ученые США придумали эпидемию оспы обезьян год назад: погибнет 271 млн человек Всемирная организация здравоохранения (ВОЗ) сообщает о вспышке в мае редкого инфекционного заболевания — оспы обезьян. Вирусная инфекция, встречающаяся в отдаленных районах Центральной и Западной Африки…...

17:27, 15 Янв В России придумали новый способ выявления патогенной кишечной палочки Физики из Объединенного института высоких температур (ОИВТ) РАН написали программу, которая обнаруживает патогенную кишечную палочку по различиям в движении с непатогенной. Об этом сообщает РИА "Новости" со ссылкой на ......

09:45, 23 Июл Ученые в РФ придумали способ борьбы с разливами нефти с помощью борщевика Борщевик Сосновского, как известно, может быть смертельным для человека, так как вызывает сильнейшие аллергические буллезные дерматиты. При этом он может стать полезным в борьбе с разливами нефти, о чем рассказали в Министерстве науки и высшего обра...

17:54, 23 Фев Мошенники придумали новый способ кражи денег у россиян на фоне ситуации с Украиной С большим числом ошибок «министр обороны РФ» призывает в своем обращении русский народ пожертвовать средства в военный бюджет страны. Деньги якобы понадобились на обеспечение военной отрасли перед грядущей «войной». Примечательно, что сбор пожертвов...

17:27, 16 Ноя Зумеры придумали магазин-кооператив: поставлять товар, убираться и помогать с упаковкой будут сами покупатели Согласно идее, фермеры принесут молоко, садоводы — овощи, а местные кулинары — домашнюю еду. Деньги с продаж пойдут им напрямую, а аренду помещения покроют власти, рассказывает Fast Company....