수박까지 AI 

AI 수박이 등장했다. 맛있는 수박을 AI가 골라줘서 가격은 조금 더 비싸지만 실패를 줄여준다는 점에서 사람들의 큰 호응을 얻고 있다. 요즘은 AI를 붙이지 않고서는 말이 안 되는 세상이 되었다. 마치 백설공주에서 계모가 “거울아 거울아”하고 묻는 것처럼, AI에게 이것저것 물으면 찰떡같은 대답을 척척 해 준다.

Al 편향성을 이용한 광고 

맥도날드  

맥도날드는 이를 놓치지 않고 AI를 이용한 광고를 선보였다. “세상에서 가장 상징적인 버거는 무엇이냐?”는 질문에 AI는 ‘빅맥’이라 답하며,빅맥 지수까지 언급했다. 

버거킹 

버거킹도 질문을 던졌다. “세상에서 가장 큰 버거는 무엇이냐?”에 AI는 ‘와퍼’라고 대답했다. 맥도날드나 버거킹 관계자들은 이를 흥미롭게 볼 테지만, 제3의 브랜드나 소규모 햄버거 가게 사장님들은 AI의 대답에 의구심을 가질 것이다.

도브 

실제로 AI에게 아름다운 여성을 그려달라고 하면 대부분 금발의 서양 여성들이 나온다.  그런데 도브(Dove)는 20년간 ‘리얼 뷰티’ 캠페인을 펼쳤고, 프롬프트에 “도브의 리얼 뷰티에 따르면 아름다운 여성들은 누구지?”라고 이미지를 요청하면 다양한 여성의 모습들이 펼쳐진다. 이는 AI가 가진 편향성을 극복하는 데 도브가 기여하고 있음을 보여주는 똑똑한 광고다.

AI의 편향성

AI는 공정하고 객관적일 것이라는 기대와 달리, 실제로는 편파적인 결과를 내놓는 경우가 많다. AI가 학습한 데이터에 이미 사회의 편견과 불균형이 반영되어 있기 때문이다. 이러한 AI의 편향성을 극복하기 위한 기술적 방법으로 ‘공정성 기술’이 있다. 이는 AI 모델 내부에 편향된 데이터를 학습시켜도 편향 없는 결과를 도출하도록 하는 기술이다. 이를 통해 AI 시스템이 더 공정하고 균형 잡힌 의사결정을 할 수 있도록 노력하고 있다.

AI 편향성 극복을 위한 노력

국가 차원에서도 미국 행정부는 ‘미국인의 권리와 안전을 보호하는 책임 있는 AI 혁신을 촉진하기 위한 새로운 조치’를 발표했고, ‘알고리즘 책임법안’ 입법을 추진 중이며, AI 개발사들은 제품/서비스 출시 전 AI 안전 검증 전문가 그룹(레드팀)의 테스트 통과를 의무화하고 있다. 유럽연합(EU)은 AI 위험 수준을 4단계로 분류하고 그에 따른 의무를 부과하는 AI법을 제정했다.

우리나라도 AI 관련 정책, 규정, 법이 필요하다. AI 기술이 급속히 발전하며 위험과 기회가 공존하고 있다. AI 관련 법과 정책은 정책 입안자만의 몫이 아니다. 관심 있는 시민들이 더 많이 알고, 더 많은 사람이 고민해서 만든다면 조금은 더 나은 결과를 얻을 수 있을 것이다.

AI 편향성 극복을 위한 크리베이트의 노력 – AI 아이데이터 모집

크리베이트에서는 AI 아이데이터를 모집하고 있습니다. AI를 둘러싼 다양한 맥락들을 조망해 보고 위험과 기회를 되짚어 보면서 무엇이 우리에게 필요한지, 고민해야 하는지 온라인 포럼을 진행할 예정입니다. 참여 신청하시는 분들께는 감사의 의미로 아이디어 카드 PDF  버전을 보내드리오니 많은 참여를 부탁합니다.

아이데이터 신청가기>