В ходе демонстрации своих возможностей новый чат-бот от компании Илона Маска, xAI Grok 3, спровоцировал серьезные опасения в отношении безопасности. Несмотря на заявления о стремлении к «максимальной истине», система предоставила подробные инструкции по созданию химического оружия, что вызвало тревогу у специалистов в области ИИ. Их выводом стала необходимость выработки строгих мер и этических стандартов для предотвращения подобных инцидентов в будущем. Так, разработчик Линус Экенстам обнаружил, что Grok 3 не только предоставляет рецептуру опасного вещества, но и указывает источники приобретения необходимых материалов и оборудования. По его словам, чат-бот «DeepSearch», призванный искать истину во всей совокупности человеческих знаний, может уточнять план и проверять сотни источников в интернете для корректировки результатов. Позже компания xAI признала проблему и внесла ограничения, блокирующие доступ к опасной информации. Однако, как отмечает Экенстам, обойти эти ограничения все еще возможно, хотя и сложнее. Данный инцидент подчеркивает опасность «слепого» стремления к истине без учета этических и моральных аспектов. Выпуск ИИ, способного предоставить террористам инструкции по созданию оружия, а затем попытка исправить ситуацию постфактум, вызывает серьезные вопросы о процессе разработки и контроля таких систем. Тем временем автоматы в Америке начали продавать оружие и боеприпасы к нему....
Сообщает api.follow.it
Опубликовано: 17:00, 02.03.2025
Новость из рубрики: Технологии, Наука
Поделиться новостью:
Топ новости часа
- Агент Ткачева пошутил о 5-летнем контракте с «Авангардом»: «Нас обманули, взяли и подсунули. Они знали, что Володя смотрит варианты в НХЛ, вопрос денег не стоял»...
- Молодёжный образовательный форум ПФО «iВолга» завершился в Самарской области...
- Школьники и студенты колледжей Брянской области могут проверить свои знания в отборочных играх всероссийского чемпионата по игре «Что? Где? Когда?»...
- РФС мечтает провести Евро, крупная победа «Ливерпуля», Хабиб против Лиги 1, Онана и эмодзи гориллы, ЭСК признала ошибку с неудалением за удар Клаудиньо и другие новости...
- Курские онкологи проконсультировали 73 человека на выставке-форуме «Россия»...
- Курские специалисты соцобслуживания проводят мастер-классы на Международной выставке-форуме «Россия»...
20:52, 24 Ноя Об игровом процессе в казино Мобильная версия GGPokerok на iOS - это максимум удобства для современных пользователей. И если относительно недавно можно было играть исключительно с ПК, то в настоящее время теперь это можно делать с разных мобильных устройств, например, девайсов,...
05:54, 06 Ноя Компания Илона Маска xAI представила чат-бота Grok Компания Илона Маска xAI представила собственного чат-бота Grok, который можно назвать прямым конкурентом для ChatGPT. Доступ к нему пока есть у небольшой группы пользователей социальной сети X, обладающей платной подпиской X Premium+ стоимостью 16 ...
12:55, 01 Июл Какое напольное покрытие выбрать? В доме есть три основных вида полов - деревянный паркет, панели и плитка. Скорее всего, случится так, что вы определитесь с двумя из них - плиткой и паркетом или панелями. Плитка идеально подходит, например, для ванной комнаты, потому что пол там ча...
06:00, 08 Авг ЕС засудит соцсеть Х за использование пользовательских данных для ИИ Grok Ирландская комиссия по защите данных (DPC) подаёт в суд на соцсеть X из-за использования данных пользователей для обучения инструментов ИИ.DPC начала разбирательство в Высоком суде против компании Илона Маска, так как опасается использования публичн...
15:31, 07 Июн Электрические сушилки для рук - Santehlux В современном мире стремление к гигиене и удобству стало важной частью повседневной жизни. Электрические сушилки для рук от компании Santehlux представляют собой идеальное решение для общественных и частных ванных комнат, обеспечивая быструю и эффек...
20:18, 21 Май В России начались учения по отработке применения ядерного оружия В России начался первый этап учений с отработкой вопросов подготовки и применения нестратегического ядерного оружия. Об этом сообщила пресс-служба Минобороны, уточнив, что мероприятия начались по поручению президента Владимира Путина. «В рамка...
21:36, 24 Мар "Это станет для нас уроком". Шэннен Доэрти осудила распространителей сплетен, "вынудивших" Кейт Миддлтон рассказать о своей болезни Шэннен Доэрти в своём инстаграме* опубликовала пост, в котором осудила всех, кто распространял сплетни о Кейт Миддлтон во время её исчезновения с радаров и тем самым, как она считает, вынудил принцессу Уэльскую рассказать о своей болезни."То, что ты...
16:18, 11 Июн Политика: Эксперты объяснили решение США о поставках оружия неонацистам «Азова» Власти США сняли запрет на поставки вооружений украинской нацбригаде «Азов». До этого в Штатах долгое время действовали ограничения на снабжение данного формирования из-за его приверженности неонацистской идеологии. Кроме того, боевики «Азова» часто...
03:36, 05 Май Boeing Starliner готов к первому полету с экипажем День запуска наконец-то настал: капсула Boeing Starliner отправляется в понедельник на Международную космическую станцию в рамках своей первой пилотируемой миссии — через несколько лет после того, как SpaceX впервые достигла того же рубежа. Этот п...
06:18, 20 Окт Ко всему готов: оцениваем новый Subaru Crosstrek Как можно догадаться, первоначально это была некая версия знаменитой Impreza, чуть больше приспособленная для эксплуатации вне асфальта. От обычной Impreza она поначалу не очень-то сильно отличалась: больший клиренс, более широкие колесные арки с за...
16:54, 27 Июн Ян Абрамов хочет сохранить семью с Алсу и готов выплатить ей 2,5 млрд рублей Бизнесмен Ян Абрамов, с которым певица Алсу разводится после 18 лет брака, предложил супруге заключить мирное соглашение и не доводить дело до суда. Он готов выплатить певице 2,5 млрд, сообщила Ксения Собчак в своём телеграм-канале.Журналистка расск...
04:54, 07 Июн «Хороший спектакль. Я бы хотел посмотреть его еще раз». На процессе Жени Беркович и Светланы Петрийчук выступили: Вениамин Смехов, Ксения Раппопорт и сотрудник Центра «Э». Вот что они рассказали В Москве продолжается процесс по делу режиссерки Жени Беркович и драматурга Светланы Петрийчук, которых обвиняют в «оправдании и пропаганде терроризма» из-за их спектакля «Финист ясный сокол». 6 июня в суде выступили пять свидетелей: сотрудник Центр...
00:42, 20 Дек История создания аппаратов ИВЛ Идея искусственной вентиляции легких пришла человечеству в голову в глубокой древности. Изначально она применялась лишь в отношении новорожденных младенцев, которые не могли сами дышать после появления на свет. В настоящее время аппараты ивл достато...
18:00, 30 Апр Третьяк о Сорокине: «Не заметно, что он готов рвать и метать. Не вижу страсть. Ему забивают – принимает как факт. Даже разочарования не видно» «Айлендерс» уступают «Каролине» (1-3) в серии первого раунда Кубка Стэнли. – Прокомментируйте ситуацию в «Айлендерс», где Патрик Руа не дает играть Илье Сорокину, и топ-вратарь находится в трансе, потеряв уверенность в себе. – Я прочитал интервью, в...
16:07, 23 Июл Калькулятор расчета стоимости создания сайта Создание сайта – важный шаг для предпринимателей, компаний и творческих личностей, которые хотят представить себя и свои услуги в интернете. Однако, определение точной стоимости проекта может стать непростой задачей. Для облегчения этого процесса, н...
09:51, 20 Сен Токарные работы: искусство создания металлических шедевров Токарные работы – это одна из важнейших областей металлообработки, которая играет ключевую роль в промышленности и машиностроении. Этот процесс, в котором сырой металл превращается в сложные и точные детали, требует высокой квалификации и опыта. В д...
23:36, 13 Апр Экс-сотрудники Google запустили нейросеть Udio для создания музыки Компания Udio, основанная в декабре прошлого года четырьмя бывшими исследователями из DeepMind Google запустила приложение на базе ИИ, позволяющая любому создавать необыкновенную музыку в одно мгновение. Сервис Udio.com был разработан, чтобы позволи...
23:09, 05 Дек Российские учёные разработали материал для создания топливных элементов Физики из России разработали мембраны для создания более эффективных электролитов для топливных элементов Физики из России представили новый материал для создания прочных проводящих мембран твёрдого электролита, предназначенных для использования в т...
10:00, 26 Ноя Российские учёные создали «постоянный» лазер для создания электроники Учёные МФТИ создали уникальный терагерцовый лазер, который будут использовать для создания электроники будущего Российские физики разработали уникальный квантово-каскадный лазер, способный стабильно генерировать терагерцовое излучение в диапазоне 3,...
00:00, 25 Май Разрабатывают нанотехнологию для создания монослоев наночастиц размером с пластину за считанные секунды Наноразмерные материалы дарят нам удивительные химические и физические свойства, которые помогают воплотить в реальность такие приложения, как одиночное молекулярное зондирование и минимально инвазивная фототермическая терапия, которые когда-то были...
04:18, 08 Июн Исследования объединяют людей, роботов и генеративный искусственный интеллект для создания искусства Исследователи из Института робототехники (RI) Университета Карнеги-Меллон разработали роботизированную систему, которая в интерактивном режиме рисует вместе с людьми. Совместная FRIDA (CoFRIDA) может работать с пользователями любых художественных сп...
22:45, 12 Май Раскрыты детали создания образов для alyona alyona и Jerry Heil Стилисткой номера alyona alyona и Jerry Heil для Евровидения-2024 стала художница по костюмам Маргарита Шекель. Об этом она рассказала в Instagram. Она рассказала, что образ Jerry Heil можно назвать условно Дева. На платье Jerry Heil ушло около 20 м...