이용자 보호를 위한 인공지능(AI) 기본 원칙 7가지

이용자 중심의 지능정보사회 실현을 위한 원칙
'AI for Trust' 국제 콘퍼런스에서 인공지능 원칙을 발표
사람 중심, 투명성, 책임성, 차별 금지, 프라이버시와 데이터 활용 균형

인공지능이 특정 분야를 넘어 일상생활에 밀접한 시대가 다가오고 있다.

AI 시대에 이용자의 권리를 침해하지 않고 이익을 충분히 누릴 수 있도록 하는 원칙들의 필요성이 높아지고 있었다.
2018년 지능정보화 이용자 포럼을 통해 원칙 마련의 기초 연구가 이루어졌고, ICT 기업과 전문가의 의견을 수렴하여 기본 원칙을 완성하였다.

'이용자 중심의 지능정보사회 실현을 위한 원칙'은 일상생활에서 AI를 사용하는 지능정보 시대를 맞아 마련되었다.
지금도 맞춤형 뉴스, 콘텐츠 추천 시스템, AI 스피커, 인공지능 면접 등에서 AI가 활용되고 있다.
앞으로 AI 활용의 범위가 확대되고 일상생활에 밀접한 분야까지 확산될 것으로 보여 이용자 보호를 위한 원칙이 필요하다.

네이버 AI 스피커

AI 시스템이 발전할수록 이용자는 의사결정을 보조하거나 대체하는 서비스들을 활용할 수 있다.
생활에 밀접할수록 공정하고, 책임 있는 AI 알고리즘의 중요성이 커지고 있다.
중요성이 높아지는 만큼 AI 알고리즘의 발전 방향성과 이용자 보호를 위한 원칙의 필요성도 높아지고 있었다.

EU, OECD 등 국제사회에서도 신뢰할 수 있는 AI를 위한 가이드라인, 권고안이 발표되고 있으며 방송통신위원회도 이용자가 신뢰할 수 있는 기본적인 원칙을 정했다. 구글, 카카오, MS, 등 주요 기업도 자체 인공지능 윤리원칙을 마련하고 자발적인 노력도 병행하고 있다.

특히 방통위는 위의 원칙을 초석으로 이용자, 기업, 전문가, 전문 사회의 의견을 반영하여 12월에 개최하는 'AI for Trust'에서 원칙을 발표하고 이용자 보호 방향에 대한 공감대를 형성할 자리를 마련한다고 밝혔다.

이용자 중심의 지능정보사회를 위한 원칙

목적

신기술 도입이 초래할 수 있는 기술적, 사회적 위험으로부터 안전한 지능정보 서비스 환경을 조성하기 위해, 지능정보사회의 모든 구성원들이 고려할 공동의 기본 원칙을 제시한다.

1. 사람 중심의 서비스 제공

이용자인 사람을 중심으로 자유와 권리를 보장하고 인간의 존엄성을 보호할 수 있는 방향으로 이루어져야 한다.
각자의 자율성을 최대한 보장받으면서도 안전하고 투명하며 모든 사람이 고른 혜택을 누릴 수 있는 서비스가 이루어지도록 환경을 조성한다.

2. 투명성과 설명 가능성

기업의 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 공개해야 한다.
또한 신체, 자유, 재산 및 기타 기본권에 피해를 발생할 가능성이 있을 경우 기술적으로 가능한 범위에서 이용자에게 주요 요인을 설명할 수 있어야 한다.

3. 책임성

지능정보 서비스의 올바른 기능과 사람 중심 가치 보장을 위한 공동의 책임을 인식하고 관련 법령과 계약을 준수한다.
서비스를 이용하면서 발생한 타인의 권익 침해에 대한 법적, 사회적, 윤리적 책임을 다한다. 특히 구성원들은 지속적인 의견 교환에 참여한다.

4. 안전성

안전하고 신뢰 가능한 지능정보 서비스의 개발과 이용을 위해 참여자 모두가 노력한다.
예상할 수 있는 피해에 대한 복구 방안을 사전에 확보하고 제공자와 이용자는 상호 협의하에 자율적인 대비 체계를 수립하고 운영한다.

5. 차별 금지

구성원들의 사회적, 경제적 불공평이나 격차가 있음을 인식하고 기술사용에 사회적 다양성을 고려한다. 개발과 사용의 모든 단계에서 차별 요소를 최소화하도록 노력한다.

6. 참여

지능정보사회의 구성원들은 공적인 이용자로서 정책 과정에 차별 없이 참여하고 실질적인 의견 교류를 위한 정기적인 통로를 조성한다.

7. 프라이버시와 데이터 거버넌스

데이터 활용을 통한 기술적 이익과 개인 정보 및 프라이버시를 보호 사이에서 균형을 위해 지속적인 의견 교환에 참여한다. 특히 데이터 사용에서 프라이버시에 부정적인 영향을 최소화하는데 노력한다.

이 밖에 지능정보사회의 구성원들은 공동의 기본 원칙의 가치를 수호할 수 있도록 자율적인 노력을 하며 이용자 보호를 위한 실질적이고 지속적인 논의를 위해 협의회를 구성하고 운영한다.

로봇 3원칙

1942년 아이작 아시모프의 소설 런어라운드에서 처음 언급되었다.
로봇은 인간에게 해를 끼치지 않아야 하고 인간의 명령에 복종해야 하면서 로봇 자신의 존재를 보호하는 로봇 안전 준칙이다.

1. 로봇은 인류에게 해를 가하거나, 해를 끼치는 행동을 하지 않음으로써 인류에게 해를 끼치지 않는다.
2. 로봇은 인간에게 해를 가하거나, 행동을 하지 않음으로써 인간에게 해를 끼치지 않는다.
3. 로봇은 첫 번째 원칙에 위배되지 않는 한 인간이 내리는 명령에 복종해야 한다.
4. 로봇은 첫 번째와 두 번째 원칙을 위배하지 않는 선에서 로봇 자신의 존재를 보호해야 한다.

- 네이버 IT 용어 사전

소설이나 영화에서 보던 로봇 3원칙이 현실에서도 필요한 시기가 왔다.
인공지능이 발전하고 사물인터넷 등 물리적인 연결까지 예상되고 있다.
기술발전이 사람에게 피해가 되지 않도록 기본 원칙을 만들어 알고리즘의 개발, 서비스해야 한다.

이번 '이용자 중심의 지능정보사회를 위하나 원칙'을 시작으로 기술발전의 두려움을 해소시켰으면 한다.