marss2 (marss2) wrote,
marss2
marss2

Categories:

неконтролируемая предвзятость и искусственный интеллект

А существует ли справедливость?
Мы можем заставить ИИ не быть расистом, но будет ли это справедливо?
В последнюю пару лет на пути расширения использования ИИ на основе машинного обучения образовывался все более фундаментальный завал – неконтролируемая предвзятость.
Она проявлялась во всевозможных формах дискриминации со стороны алгоритмов чернокожих, женщин, малообеспеченных, пожилых и т.д. буквально во всем: от процента кредита до решений о досрочном освобождении из заключения.
Проблема стала настолько серьезной, что на нее навалились всем миром: IT-гиганты и стартапы, военные и разведка, университеты и хакатоны …

И вот, похоже, принципиальное решение найдено. Им стал «Алгоритм Селдона» (детали см. здесь: [популярно](https://www.wired.com/…/researchers-guardrails-prevent-bia…/), [научно](https://science.sciencemag.org/content/366/6468/999)).
Он назван так в честь персонажа легендарного романа «Основание» Айзека Азимова математика Гэри Селдона. Ситуация в романе здорово напоминает нашу сегодняшнюю.
Галактическая империя разваливалась, отчасти потому, что выполнение Трех законов робототехники требует гарантий, что ни один человек не пострадает в результате действий роботов.
Это парализует любые действия роботов и заводит ситуацию в тупик.
Селдон же предложил, как исправить это, обратившись к вероятностным рассуждениям о безопасности.

Разработчики «Алгоритма Селдона» (из США и Бразилии) пошли тем же путем. В результате получился фреймворк для разработки алгоритмов машинного обучения, облегчающий пользователям алгоритма указывать ограничения безопасности и избегания дискриминации (это можно условно назвать справедливостью).

Идея 1й версии «Алгоритма Селдона» была предложена еще [2 года назад](https://pdfs.semanticscholar.org/…/dd600444928a508301326081…).
Но нужно было проверить на практике, как она работает. 1е тестирование было на задаче прогнозирования средних баллов в наборе данных из 43 000 учащихся в Бразилии. Все предыдущие алгоритмы машинного обучения дискриминировали женщин.
2е тестирование касалось задачи улучшения алгоритма управления контроллера инсулиновой помпы, чтобы он из-за предвзятостей не увеличивал частоту гипогликемии.
Оба теста показали, что «Алгоритм Селдона» позволяет минимизировать предвзятость.

Казалось бы, ура (!?). Не совсем.


Засада может ждать впереди (опять же, как и предсказано Азимовым).
Проблема в понимании людьми справедливости. Алгоритмы же так и так ни черта не понимают.
И потому решать, что справедливо, а что нет, «Алгоритма Селдона» предлагает людям.
Фреймворк позволяет использовать альтернативные определения справедливости.
Люди сами должны выбрать, что им подходит, а «Алгоритм Селдона» потом проследит, чтобы выбранная «справедливость» не была нарушена.
Однако даже среди экспертов существуют порядка 30 различных определений справедливости.
И если даже эксперты не могут договориться о том, что справедливо, было бы странно перекладывать бремя решений на менее опытных пользователей.

В результате может получиться следующее:
• Пользователь рассудит, что справедливо, и задаст правила справедливости алгоритму.
• «Алгоритм Селдона» отследит выполнение правил.
• Но, по-честному, люди так и не будут уверены, справедливо ли они рассудили или нет.

https://www.facebook.com/sergey.karelov.5/posts/2544586982243643


Tags: наука, наука и жизнь
Subscribe

  • 1 сентября

    сентябырь снова на пороге открою дверь и вот в руке вновь вспыхнут астры и заноет фантомный ранец за спиной. Радуются дети и учителя Мы сегодня в…

  • 1 сентября

    зайдёшь порой за угол школы и даже если бросил пить достанешь из фантомной пачки фантомных пару сигарет .Не спрашивай никогда по ком звонит…

  • на школьную тему Fountains of Wayne - Stacy's Mom (Official Music Video)

    скоро в школу, так что веселая песенка к 1 сентября *** зайдёшь порой за угол школы и даже если бросил пить достанешь из фантомной пачки фантомных…

promo marss2 june 25, 2014 01:11 1
Buy for 10 tokens
"Фак, как быстро пролетело лето. Так много всего запланировала, но ни черта не успела ". Оставлю это тут, чтобы в сентябре не писать Иногда я чувствую себя бесполезным, но затем вспоминаю, что дышу, вырабатывая при этом углекислый газ для растений. Как ввести гопника в замешательство:…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic
  • 5 comments