Рекордната глоба, наложена на Uber по Общия регламент за защита на данните (GDPR), подчертава значението на прозрачността, човешкия контрол и ефективните предпазни мерки при автоматизираното вземане на решения
Без да си даваме сметка, позволихме на алгоритмите да избират музиката, която слушаме, да ни препоръчват филми, които биха ни харесали, и да определят вида на публикациите, които се появяват на екраните ни.
Но кога сме се съгласявали алгоритмите да решават дали утре ще имаме работа?
Този въпрос е в основата на най-новото решение на нидерландския орган по защита на данните „Autoriteit Persoonsgegevens“ (AP) срещу „Uber“, а отговорът дойде под формата на глоба от почти 825 милиона евро. Според AP от Uber автоматично са деактивирали акаунтите на шофьорите поради подозрение за измама и ниски оценки от клиенти, без да предоставят достатъчна информация или възможност за оспорване на решението.
Случаят е важен не само заради размера на глобата, която според данните е втората по големина глоба по GDPR до момента, но и заради регулаторното послание, което стои зад нея.
Самата автоматизация не е проблем. Прехвърлянето на вземането на решения към алгоритми обаче може да бъде.
Член 22 от Общия регламент за защита на данните (GDPR) ограничава решенията, основани изцяло на автоматизирана обработка, когато те имат правни последици или по подобен начин засягат в значителна степен физическите лица. В случая с Uber холандският орган за защита на данните приема, че загубата на достъп до платформата засяга шофьорите в значителна степен, тъй като това означава загуба на възможността им да генерират доходи чрез нея.
Непредоставянето на шофьорите на ясна и достъпна информация относно процеса на вземане на решения и възможността им да оспорят резултата по адекватен начин изглежда представлява самостоятелен пропуск в прозрачността съгласно член 13 от GDPR.
За организациите, които все повече разчитат на алгоритми и инструменти, базирани на изкуствен интелект, в трудовите отношения, управлението на платформи и други бизнес сфери, този случай повдига някои много практични въпроси:
Какъв е практическият извод? Може би си струва в процеса от самото начало да се включат съответните бизнес, технологични, правни и регулаторни отдели, а не едва след като инструментът или процесът, базиран на изкуствен интелект, вече е разработен и пуснат в употреба. От Uber обявиха, че ще обжалват решението, така че окончателното правно положение все още не е ясно. Засега решението предлага полезно напомняне за спазването на нормативните изисквания: човешкият надзор трябва да се превърне в архитектурно и управленско изискване, а не просто в принцип на хартия.
Мартин не само неизменно предоставя първокласни правни съвети, но и успя да стане един от най-младите професори в България, както и да се утвърди като най-продуктивния автор в кантората.
Наред с адвокатската си практика, Невена притежава солиден опит като юрисконсулт в технологични организации, консултиране в областта на спазването на нормативните изисквания и предприемачество в сферата на правните технологии. Нейната работа отразява практическото ѝ разбиране за това как законовите разпоредби се отразяват върху продуктите, хората и бизнес дейностите.
