Czy warto śledzić rozwój AI i towarzyszących jej regulacji?

04.04.2023

Zdecydowanie tak, bo każdy tydzień przynosi coś nowego.

Tylko w zeszłym tygodniu został upubliczniony list otwarty wielu znanych liderów biznesu technologicznego , naukowców i badaczy, wzywający do wstrzymania prac nad rozwojem sztucznej inteligencji i wskazujący jej ryzyka. Chwilę później włoski urząd ochrony danych osobowych zablokował dostęp do Chat GPT z uwagi na zagrożenia w obszarze prywatności.

A w tle trwają prace nad unijnym rozporządzeniem dotyczącym sztucznej inteligencji („Rozporządzenie AI”), które ma przynajmniej do pewnego stopnia zabezpieczyć obywateli Unii przed ryzykami związanymi z AI.

Zgodnie z Rozporządzeniem AI systemy AI zostaną podzielone na cztery grupy:

  • Zakazane systemy AI – np. systemy kwalifikujące obywateli z uwagi na różne zmienne społeczne (social scoring);
  • Systemy AI wysokiego ryzyka – ściśle regulowane i nadzorowane przez zewnętrzne organy nadzoru;
  • Systemy AI średniego ryzyka – twórcy i korzystający będą musieli zapewnić pewien poziom transparentności informacyjnej dla końcowych użytkowników;
  • Systemy AI niskiego ryzyka – znalazły się poza regulacją.

Jak to się ma do sektora finansowego?

Sektor finansowy, szczególnie w jego polskim wydaniu, jest jednym z najnowocześniejszych sektorów współczesnej gospodarki. Sektor ten ma niezwykły potencjał do wykorzystywania i rozwijania rozwiązań opartych o Systemy AI – od rozwiązań do komunikacji z klientami, przez procesy uwierzytelniania, wykrywania ryzyk, zarządzania HR, aż po zaawansowane systemy analityczne wspierające procesy inwestycyjne, ubezpieczeniowe i inne.

Oznacza to że wiele już wykorzystywanych przez sektor rozwiązań wpadnie w ramy Rozporządzenia AI, a ich producenci i profesjonalni użytkownicy będą musieli dostosować się do nowych wymogów.

Spełnienie wymagań Rozporządzenia AI będzie zapewne kosztowne i czasochłonne. Jak podpowiada doświadczenie (RODO, PSD2, inne) pojawienie się na horyzoncie tak kompleksowej regulacji wymaga wcześniejszego planowania zasobów osobowych, budżetów, zmian korporacyjnych, wsparcia zewnętrznych doradców, renegocjacji umów z dostawcami, itp. Natomiast brak dostosowania się do nowych wymogów potencjalnie wiąże się z drakońskimi karami finansowymi przygotowanymi na wzór kar znanych z RODO czy regulacji prawa ochrony konkurencji (procent od obrotu).

Odpowiadając na rosnące oczekiwanie przedstawicieli szerokiego sektora finansowego, razem z FinTech Poland postanowiliśmy powołać grupę roboczą sektora finansowego do spraw sztucznej inteligencji.

W ramach prac grupy postaramy się w pierwszej kolejności precyzyjnie ustalić, jakie obszary i jakie narzędzia stosowane przez sektor mają największą szansę zostać objęte przepisami Rozporządzenia AI. Mamy nadzieję, że inicjując dialog pomiędzy biznesem, ekspertami technologicznymi i departamentami prawnymi, uda nam się lepiej zrozumieć, a w konsekwencji poprawnie stosować, terminologię i wymogi Rozporządzenia AI.

Będziemy monitorować rozwój prac nad Rozporządzeniem AI, które nadal nie osiągnęło swojego ostatecznego kształtu i które ulega dość poważnym modyfikacjom w każdej kolejnej odsłonie.

Dzięki szerokiej reprezentacji przedstawicieli sektora finansowego, w tym przedstawicieli sektora fintechowego, chcemy wypracować wspólne dla całego rynku rozumienie nowych wymogów i standardy ich wdrożenia. Pokusimy się też o przygotowanie prostych narzędzi, które pozwolą przedstawicielom sektora ocenić własne ryzyka i oszacować zakres wymogów, który może dotknąć ich bezpośrednio.

Chcemy, żeby z efektów prac grupy roboczej mogły skorzystać również organy nadzoru i inne organy państwowe, które na pewnym etapie będą musiały wydać rekomendacje i wytyczne w związku ze sztuczną inteligencją i jej nową regulacją. Zależy nam na tym, żeby uczestnicy rynku nie zostali zaskoczeni takimi wytycznymi oraz żeby nie okazały się one dla nich niezrozumiałe.

Startujemy w kwietniu 2023. Pozwoli nam to śledzić finał prac legislacyjnych dotyczących Rozporządzenia AI (podsumowanie obecnego statusu prac dostępne jest tu) i wypracować standardy na samym początku okresu dostosowawczego, tak aby dać sektorowi finansowemu jak najwięcej czasu na harmonijne wdrożenie nowych wymogów.

Zapraszamy do współpracy.

Kuba Ruiz LL.M.

Adwokat & Senior Counsel

Bird&Bird

Gabriela Kocurek

Specjalizacje

Specjalizuje się w prawie nowych technologii i regulacji rynków finansowych, prawie własności intelektualnej, prawie ochrony danych osobowych oraz prawie zamówień publicznych. 

Jest ekspertem w obszarze regulacji dotyczących usług chmurowych oraz outsourcingu usług IT, z uwzględnieniem specyfiki sektora finansowego. Wspiera klientów w obszarze zamówień publicznych, z uwzględnieniem specyfiki zamówień w sektorze IT.


Doświadczenie

Doradza w szczególności klientom z branży FinTech, IT, cyberbezpieczeństwa, e-commerce i branży nowych technologii:

  • Posiada bogate doświadczenie w przygotowywaniu i negocjowaniu umów IT, umów wdrożeniowych oraz umów na świadczenie usług IT w modelu SaaS a także umów licencyjnych, dotyczących przeniesienia know-how, transferu praw własności intelektualnej jak również umów dotyczących komercjalizacji wyników prac badawczo – rozwojowych.
  • Wspiera klientów z sektora FinTech w dostosowaniu umów i wdrażaniu wymogów regulacyjnych właściwych dla sektora finansowego. Doradza i wspiera klientów w negocjowaniu umów IT w reżimie outsourcingu bankowego, inwestycyjnego, chmury obliczeniowej i outsourcingu w rozumieniu wytycznych EBA.
  • Doradza w zakresie umów IT oraz ochrony danych osobowych podmiotom z branży IT Security.
  • Współuczestniczyła w audycie procedur ochrony danych osobowych w grupie spółek o zasięgu globalnym.
  • Doradza klientom w zakresie prowadzenia kampanii marketingowych o zasięgu międzynarodowym.
  • Wspiera klientów kancelarii w postępowaniach o udzielenie zamówień publicznych. Doradzała klientowi kancelarii w postępowaniu o udzielenie zamówienia publicznego na wdrożenie Platformy Kanałów Elektronicznych przez Bank Gospodarstwa Krajowego oraz z sukcesem reprezentowała klienta w postępowaniu dotyczącym tego zamówienia przed Krajową Izbą Odwoławczą.


Kwalifikacje i uprawnienia zawodowe

Radca prawny przy Okręgowej Izbie Radców Prawnych w Krakowie.

Absolwentka studiów podyplomowych na kierunku Prawo Zamówień Publicznych na Wydziale Prawa i Administracji Uniwersytetu Warszawskiego.

Absolwentka studiów magisterskich na kierunku Prawo na Wydziale Prawa i Administracji Uniwersytetu Jagiellońskiego.

Absolwentka studiów licencjackich i magisterskich na kierunku Administracja na Wydziale Prawa i Administracji Uniwersytetu Jagiellońskiego.