Новый метод позволяет моделям ИИ забывать личные и защищенные авторским правом данные

Группа специалистов по информатике из Калифорнийского университета в Риверсайде разработала метод удаления личных и защищенных авторским правом данных из моделей искусственного интеллекта — без необходимости доступа к исходным обучающим данным. Это достижение, подробно изложенное в докладе, представленном в июле на Международной конференции по машинному обучению в Ванкувере (Канада), отвечает на растущую глобальную обеспокоенность по поводу того, что личные и защищенные авторским правом материалы остаются в моделях ИИ на неопределенный срок и, таким образом, доступны пользователям моделей, несмотря на попытки первоначальных создателей удалить или защитить свою информацию с помощью платного доступа и паролей. Исследование также было опубликовано на сервере препринтов arXiv . Инновация UCR заставляет модели ИИ «забывать» выбранную информацию, сохраняя при этом функциональность моделей с оставшимися данными. Это значительное достижение, позволяющее вносить изменения в модели без необходимости их пересоздания на основе объёмных исходных данных для обучения, что требует больших затрат и энергии. Этот подход также позволяет удалять конфиденциальную информацию из моделей ИИ, даже если исходные данные для обучения больше не доступны. «В реальных ситуациях не всегда можно вернуться и получить исходные данные», — сказал Юмит Йигит Башаран, докторант кафедры электротехники и вычислительной техники Калифорнийского университета в Риверсайде и ведущий автор исследования. «Мы создали сертифицированную систему, которая работает даже тогда, когда эти данные больше не доступны». Необходимость насущна. Технологические компании сталкиваются с новыми законами о конфиденциальности, такими как Общий регламент Европейского союза по защите данных и Закон штата Калифорния о защите конфиденциальности потребителей, которые регулируют безопасность персональных данных, встроенных в крупномасштабные системы машинного обучения. Более того, The New York Times подает в суд на OpenAI и Microsoft за использование многочисленных статей компании, защищенных авторским правом, для обучения моделей Generative Pre-trained Transformer (GPT). Модели искусственного интеллекта «изучают» закономерности слов, используя огромные объёмы текста, собранного из интернета. При запросе модели предсказывают наиболее вероятные словосочетания, генерируя ответы на естественном языке в ответ на запросы пользователя. Иногда они генерируют практически дословные копии обучающих текстов, что позволяет пользователям обходить платный доступ создателей контента. Исследовательская группа Калифорнийского университета в Риверсайде, в состав которой входят Башаран, профессор Амит Рой-Чоудхури и доцент Башак Гюлер, разработала так называемый «метод сертифицированного отучения без использования исходного кода». Этот метод позволяет разработчикам ИИ удалять целевые данные, используя замещающий, или «суррогатный», набор данных, статистически схожий с исходными данными. Система корректирует параметры модели и добавляет тщательно откалиброванный случайный шум, чтобы гарантировать, что целевая информация будет стерта и не сможет быть восстановлена. Их фреймворк основан на концепции оптимизации ИИ, которая эффективно аппроксимирует то, как изменилась бы модель после переобучения с нуля. Команда Калифорнийского университета в Риверсайде усовершенствовала этот подход, добавив новый механизм калибровки шума, который компенсирует расхождения между исходными и суррогатными наборами данных. Исследователи проверили свой метод, используя как синтетические, так и реальные наборы данных, и обнаружили, что он обеспечивает гарантии конфиденциальности, близкие к тем, которые достигаются при полном переобучении, но при этом требует гораздо меньше вычислительной мощности. Текущая работа применима к более простым моделям, которые по-прежнему широко используются, но в конечном итоге может быть масштабирована до сложных систем, таких как ChatGPT, сказал Рой-Чоудхури, содиректор Института исследований и образования в области искусственного интеллекта Риверсайд (RAISE) Калифорнийского университета в Риверсайде и профессор Инженерного колледжа Марлана и Розмари Борнс. Исследователи заявили, что помимо обеспечения соответствия нормативным требованиям, эта технология перспективна для медиаорганизаций , медицинских учреждений и других организаций, работающих с конфиденциальными данными, встроенными в модели ИИ. Она также может позволить людям требовать удаления личного или защищенного авторским правом контента из систем ИИ. «Люди заслуживают знать, что их данные могут быть стерты из моделей машинного обучения — не только в теории, но и доказуемыми практическими способами», — сказал Гюлер. Дальнейшие шаги команды включают совершенствование метода для работы с более сложными типами моделей и наборами данных, а также создание инструментов, которые сделают технологию доступной для разработчиков ИИ по всему миру. Название статьи — «Сертифицированный подход к отучению без доступа к исходным данным». Она была подготовлена ​​в сотрудничестве со Ском Мираджем Ахмедом, научным сотрудником в области вычислительной науки из Брукхейвенской национальной лаборатории в Аптоне, штат Нью-Йорк, получившим докторскую степень в Калифорнийском университете в Риверсайде.
Новый метод позволяет моделям ИИ забывать личные и защищенные авторским правом данные

Сообщает android-robot.com

 

Опубликовано: 22:36, 31.08.2025

 

Новость из рубрики: Политика

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 

Топ Новости Недели Топ Новости Недели

 

Новый метод позволяет создавать сложные металлические нанокатализаторы за миллисекунды 05:36, 04 Июл Новый метод позволяет создавать сложные металлические нанокатализаторы за миллисекунды Учёные разработали технологию получения наносплавов, которая может ускорить поиск более дешёвых и эффективных материалов для водородной энергетики и ...

Новый метод расчёта траекторий к Луне позволяет экономить топливо и выбирать оптимальный маршрут 05:36, 23 Фев Новый метод расчёта траекторий к Луне позволяет экономить топливо и выбирать оптимальный маршрут Японские учёные представили метод проектирования низкоэнергетических траекторий для миссий в окололунном пространстве. В основе подхода лежит раздел ...

Новый метод изготовления микросхем позволяет создавать двойные отпечатки пальцев для прямой аутентификации 14:06, 21 Фев Новый метод изготовления микросхем позволяет создавать «двойные» отпечатки пальцев для прямой аутентификации Подобно тому, как у каждого человека уникальные отпечатки пальцев, каждый CMOS-чип имеет свой неповторимый «отпечаток», обусловленный мельчайшими слу...

Anthropic выплатит $1,5 млрд за данные для обучения ИИ это крупнейшее соглашение по авторским правам в США 12:36, 22 Июл Anthropic выплатит $1,5 млрд за данные для обучения ИИ — это крупнейшее соглашение по авторским правам в США Суд утвердил компенсацию по иску писателей, чьи произведения компания использовала через теневые библиотеки для обучения модели Claude: выплаты получ...

МВД: Мошенники похищают личные данные под предлогом оформления пропуска в военкомат 09:36, 24 Дек МВД: Мошенники похищают личные данные под предлогом оформления пропуска в военкомат Мошенники продолжают изобретать все новые способы обмана российских граждан с целью грабежа или получения их персональных данных для дальнейшего прес...

Телефон стал миной замедленного действия: как понять, что личные данные утекли в сеть 11:36, 30 Июн Телефон стал миной замедленного действия: как понять, что личные данные утекли в сеть Рост числа телефонных атак превращает владение номером в зону повышенного риска. Одно нажатие кнопки "ответить" или переход по сомнительной ссылке в ...

Личные данные утекают в сеть: россиян предупредили о фатальной ошибке при использовании чат-ботов 16:36, 24 Июн Личные данные утекают в сеть: россиян предупредили о фатальной ошибке при использовании чат-ботов Дезинформация, риск утечки конфиденциальных данных и доступ несовершеннолетних к запрещенному контенту стали главными угрозами при использовании ИИ-с...

Очень странные дела: злоумышленники выманивают личные данные и деньги пользователей на волне популярности сериала 13:36, 18 Дек «Очень странные дела»: злоумышленники выманивают личные данные и деньги пользователей на волне популярности сериала Эксперты «Лаборатории Касперского» предупреждают о схемах онлайн-мошенничества, связанных с выходом финального сезона «Очень странных дел» (Stranger ...

11:36, 19 Фев Сверхбыстрый метод 3D-печати позволяет создавать сложные объекты менее чем за секунду Высокоскоростная 3D-печать стала намного быстрее. Исследователи из Университета Цинхуа в Китае разработали новую высокоскоростную технологию печати, ...

18:36, 05 Апр ИИ перестанет «забывать»: Андрей Карпаты предложил новый способ работы с LLM вместо RAG Андрей Карпаты, бывший директор по искусственному интеллекту Tesla и сооснователь OpenAI, представил новый подход к управлению знаниями, который може...

21:36, 24 Дек Масштабируемый метод позволяет создавать дисплеи на квантовых точках сверхвысокого разрешения без ущерба для производительности За последнее десятилетие коллоидные квантовые точки (КТ) стали перспективными материалами для дисплеев следующего поколения благодаря возможности рег...

02:36, 13 Авг Новая реконфигурируемая система на основе мемристоров позволяет сортировать данные в памяти Организация данных в определённом порядке, также известная как сортировка, — это важная вычислительная операция, выполняемая широким спектром систем....

18:36, 16 Сен Новый кроссовер Mitsubishi из ОАЭ предлагают как альтернативу китайским моделям В России на классифайдах предлагают купить новый кроссовер Mitsubishi японской сборки. Речь идет о модели Eclipse Cross, которую по параллельному имп...

00:36, 15 Мар Новый чип позволяет роботам видеть в 4D, одновременно отслеживая расстояние и скорость Современные системы машинного зрения для роботов и дронов основаны на 3D-датчиках, которые, несмотря на свою мощность, не всегда успевают за быстрыми...

02:36, 13 Авг Новый подход позволяет роям дронов автономно перемещаться в сложных условиях на высокой скорости Беспилотные летательные аппараты (БПЛА), обычно называемые дронами, широко используются во всем мире для решения различных задач, включая видеосъемку...

00:36, 22 Фев «Двойные» отпечатки: новый метод аутентификации чипов без серверов Каждая микросхема CMOS уникальна из-за микроскопических вариаций при производстве — как отпечаток пальца у человека. Эти различия формируют физически...

16:36, 27 Авг Врачи Навлинской ЦРБ используют новый метод лечения переломов Пациенту с переломом дистального отдела потребовалось хирургическое вмешательство, которое врачи выполнили методом закрытой репозиции с использование...

15:36, 29 Дек Новый метод регенерации нервов замедлил старение сердечной мышцы Учёные представили экспериментальный способ замедления возрастных изменений сердечной мышцы за счёт восстановления иннервации миокарда. Речь идёт о т...

19:36, 02 Янв «Запрещено международным правом»: генсек ООН об ударе по Хорлам Генеральный секретарь ООН Антониу Гутерриш обеспокоен атакой Вооруженных сил Украины (ВСУ) на село Хорлы Херсонской области. Об этом сообщил его пред...

21:36, 24 Дек Новый метод компьютерного зрения связывает фотографии с планами помещений с точностью до пикселя Для людей сопоставление того, что они видят на земле, с картой — это само собой разумеющееся. Для компьютеров это всегда было серьезной проблемой. Ис...

23:36, 19 Дек В Германии предложили наделить разведку правом на диверсии за рубежом Правительство Германии подготовило законопроект, который радикально расширит полномочия федеральной разведслужбы (BND). Согласно документу, разведчик...

13:36, 23 Дек Вор в компьютере: новый троянец Stealka крадёт данные пользователей Windows Эксперты «Лаборатории Касперского» обнаружили новую вредоносную программу для кражи данных и назвали её Stealka. Стилер нацелен на компьютеры с опера...

00:36, 18 Май Лопатой махать не придется: грядки не копаны, а земля как пух - давно придумали новый "ленивый" метод обработки земли фото Progorod58 Многие дачники убеждены: без весенней перекопки хорошего урожая не видать. Однако агроном Денис Терентьев называет эту процедуру «нас...

16:36, 06 Сен Ракетные сопла станут дешевле? Новый метод сокращает производство углерод-углеродных композитов с месяцев до дней Это тот же композит, что защищает зонд Parker Solar Probe от жара Солнца Инженеры Лаборатории прикладной физики Университета Джонса Хопкинса разработ...

17:36, 18 Дек «Лаборатория Касперского»: новый троянец Stealka крадёт данные пользователей Windows Эксперты «Лаборатории Касперского» обнаружили новую вредоносную программу для кражи данных и назвали её Stealka.......

14:36, 10 Мар Старый способ с солью и унитаз блестит как новый: бабушкин метод против налёта и камня - делюсь лайфхаком идеального блеска ПроГород Уборка в туалете не входит в список любимых занятий. Обычно тянут до последнего, а потом замечают жёлтые подтёки, известковый налёт и даже р...

23:36, 21 Сен Сенатор Мурог: В школе важно не забывать о письме от руки Баланс между цифровыми технологиями и письмом от руки в школах важен для развития когнитивных способностей детей, так как мозг работает по принципу «...

23:36, 18 Мар Какие из ушедших брендов россияне не хотят забывать – рейтинг народных предпочтений Любопытно, что подавляющее большинство из этих 2 млн, а именно 1,5 млн, прибыло уже с пробегом, тогда как новые машины составили лишь около 482 тысяч...

01:36, 29 Апр В России представлены защищённые смартфоны Tecno CAMON 50 с продвинутым ИИ Бренд Tecno официально презентовал для российского рынка свежую линейку смартфонов CAMON 50. Устройства выделяются флагманской системой камер для съё...

19:36, 17 Апр Народный фронт передал военным медикам защищенные автомобили Российские военнослужащие получили партию специально оборудованных автомобилей для спасения раненых с передовой, оснащенных инновационной противооско...

16:36, 15 Апр На «Связь-2026» представили защищенные гаджеты с ИИ и модульными камерами В Москве завершила работу выставка «Связь-2026», проходившая с 7 по 10 апреля в Центре имени Тимирязева. Одним из главных открытий мероприятия стал с...

14:36, 14 Ноя Какой iPhone 17 купить: наши рекомендации по моделям Выбор нового iPhone всегда сопряжён с дилеммой: какую модель лучше выбрать, чтобы она полностью соответствовала вашим задачам, и при этом не переплач...

05:36, 11 Сен Rollme выпустила защищённые часы Hero D6 с офлайн-картами и батареей на 15 дней Rollme выпустила Hero D6 — защищённые умные часы для активного отдыха и навигации. Модель получила полноцветные офлайн-карты, двухдиапазонный GPS и а...

10:36, 08 Июл Прощаемся с Deepseek? Китай может ограничить доступ к передовым ИИ-моделям Примерно по тому же пути идут в СШАКитайские власти рассматривают возможность ограничить доступ зарубежных пользователей к наиболее передовым отечест...

09:36, 04 Май Casio выпустила экстремально защищённые часы G-Shock Mudmaster GWG-B1000MG-1A9 в «магматическом» дизайне Японский бренд Casio официально представил новые часы G-Shock Mudmaster GWG-B1000MG-1A9. Модель стала частью линейки Master of G и получила акцент на...

13:36, 05 Окт ИИ пришёл не только на завод: BMW сокращает управленцев и освобождает место новым моделям BMW представила план реструктуризации, который связывает массовое внедрение искусственного интеллекта с сокращением управленческого персонала на 20% ...

22:36, 07 Июл Китай рассматривает возможность ограничения доступа к своим передовым ИИ-моделям из-за рубежа Китайские власти провели переговоры с крупнейшими технологическими компаниями страны — Alibaba, ByteDance и стартапом Z.ai — о возможном ограничении ...

14:36, 29 Июл "Плати налоги". Бренд Александра Терехова обвиняют задержке гонорара моделям Бренд Александра Терехова Sashaverse обвинили в задержке оплаты моделям, которые приняли участие в модном показе. Об этом в своих соцсетях рассказала...

03:36, 30 Июл "Плати налоги". Бренд Александра Терехова обвиняют в задержке выплат гонорара моделям Бренд Александра Терехова Sashaverse обвинили в задержке оплаты моделям, которые приняли участие в модном показе. Об этом в своих соцсетях рассказала...

19:36, 24 Дек chad 2.0: маркетплейс нейросетей представил большое обновление и упростил доступ к передовым моделям ИИ Маркетплейс нейросетей chad представил большое обновление и упростил доступ к передовым моделям ИИ. Главные изменения......

19:36, 29 Май У российских миллиардеров отобрали личные самолёты У российских миллиардеров отобрали личные самолёты. Об этом заявил Олег Тиньков*, который, хоть и не живёт в России с 2022 года, следит за новостями ...

03:36, 15 Апр Ноутбуки, не боящиеся падений, пыли, влаги и температуры до 50 градусов. Panasonic представила очень защищённые TouhcBook FZ-56 и FZ-40 Пока без ценыКомпания Panasonic выпустила очень защищённые ноутбуки TouhcBook FZ-56 и FZ-40 для использования в полевых условиях. Это очень громоздки...

18:36, 04 Окт Александр Розенбаум: «С распадом СССР мы потеряли многое, начали забывать, что значит играть за город, за пацанов с района. Если сначала деньги, а потом остальное – это не мой футбол» Народный артист России Александр Розенбаум высказался о том, как изменился футбол с советского времени. – «Мой футбол», сказали вы. Что это такое – ф...

10:36, 05 Окт Юные атлеты из Пензы обновили личные рекорды на Олимпийской аллее Канал MAX Олега Денисова На Олимпийской аллее в Пензе состоялся фестиваль личных рекордов Школы воркаута Эмиля Павлова. Юные горожане соревновались в...

12:36, 21 Янв Авторы смогут зарабатывать на рекламе товаров через личные профили «ВКонтакте» Фото freepik Авторы контента в соцсети «ВКонтакте» получили возможность создавать шопсы — публикации с товарами — в профиле и получать процент с кажд...

21:36, 30 Май Иноагент Олег Тиньков* рассказал, что личные самолеты российских олигархов арестованы У российских миллиардеров отобрали личные самолёты. Об этом заявил Олег Тиньков*, который, хоть и не живёт в России с 2022 года, следит за новостями ...

09:36, 25 Дек Ламин Ямаль раскрыл причину, почему у него не складываются личные отношения Футболист «Барселоны» Ламин Ямаль рассказал, что не может начать отношения с девушкой из‑за привычки просыпаться по ночам. Подробнее…...

13:36, 01 Окт В брянский музей «Русский рубеж» передали личные вещи воина-интернационалиста Председатель Брянской областной Думы Валентин Суббот и руководитель регионального отделения ООО «Ветераны боевых действий России», депутат Вячеслав Г...

20:36, 30 Май Иноагент Олег Тиньков рассказал, что личные самолеты российских олигархов арестованы У российских миллиардеров отобрали личные самолёты. Об этом заявил Олег Тиньков*, который, хоть и не живёт в России с 2022 года, следит за новостями ...

00:36, 02 Авг Зарядка раз в 100 дней, большой экран, защита от воды и колесо, как у компьютерной мыши. Представлены защищенные умные часы Rogbid SpinR — всего 50 долларов Емкость аккумулятора составляет 1100 мАчRogbid представила новые защищенные умные часы SpinR. «Фишкой» устройства стало необычное механическое колесо...

19:36, 25 Авг 20 кг сладостей и 12 тысяч рублей на личные расходы: Елена Блиновская отмечает юбилей в колонии Своё 45-летие Елена Блиновская отметила в колонии, а в качестве подарка её отец привез блогерше 20 кг сладостей и 12 тысяч рублей на личные расходы.П...

17:36, 28 Июл Ссылки на общие чаты Claude оказались проиндексированы Google, что раскрыло личные переписки пользователей Ссылки на общие чаты Claude AI начали появляться в результатах поиска Google, что сделало общедоступными обсуждения, которые многие пользователи, вер...

06:36, 03 Сен Генменеджер «Ак Барса» об уходе Барабанова: «Может, у него какие-то личные обиды. Время покажет, был ли он прав. Благодаря нашему штабу он стал одним из лучших в КХЛ» Генеральный менеджер «Ак Барса» Марат Валиуллин высказался об уходе форварда Александра Барабанова в «Автомобилист». – Почему не получилось оставить ...

16:36, 04 Сен Google теперь позволяет разговаривать с Gmail, Docs и Keep Google начала выкатывать голосовые режимы на базе Gemini для Gmail, Docs и Keep. С этими приложениями можно общаться как с ассистентом: продиктовать ...

13:36, 21 Дек В споре мозг не позволяет человеку принять собственную неправоту Орган не способен обрабатывать информацию, которая противоречит его убеждениям. В Университетском колледже Лондона провели исследование, в результате...

01:36, 14 Фев 3D-печать с вращающимся соплом позволяет создавать мягких роботов Мягкие роботы, изготовленные из гибких, биосовместимых материалов, пользуются большим спросом в самых разных отраслях — от здравоохранения до произво...

15:36, 10 Сен Анализ крови позволяет выявить онкологию за 10 лет до поя