A.I. 적용 확대가 가져온 이슈들
A.I. 가 사람을 대체할 것 인가?
Stereotypes in Search Engine Results
검색 엔진 역시 사람의 편견에 기반해 검색 결과를 노출하게 된다.
디자이너가 A.I. 를 사용하게 된다면
- 디자이너가 주도권을 쥐고 있는 디자인
- 사용자의 목표를 성취하게 하는 디자인
- 윤리학(목표로하는목표로 하는 사용자를 목표로 하는 윤리, 인류를 위한 윤리)
A.I.가 가져온 편견은?
신뢰를 위한 투명성을 만들기 위해서
- 누가 데이터를 만들어내는 것인가?
- 누가 시스템을 프로그램 혹은 훈련시킬 것인가?
- 왜 시스템에 해당 데이터를 제공해야 하는 것인가?
인공지능 윤리
윤리라는 것은 항상 타자와 공존하기 위한 규칙이다. 인공지능이 무섭지만 유용한 도구로서 개발됨으로써 우리는 윤리에 대한 문제를 생각해야 된다.
- A.I. 는 사람과 인류를 위해 존재해야 한다.
- A.I. 는 인간이 중심이 되어 인간의 명령에 의해 작동되어야 한다.
- A.I. 는 공평하고 특정 젠더, 인종, 연령 등에 대한 편향성이 없어야 한다.
- 인류를 위해 활용되는 A.I. 의 이점은 전 세계적으로 공유되어야 한다.
- 인류를 위해 활용되는 A.I.의 전 세계적으로 공유되어야 한다.
- A.I. 시스템 내에는 윤리적 블랙박스(Ethical Black Box)가 장착되어야 한다.
- A.I. 가 윤리적으로 활용되는지에 대한 글로벌 거버넌스 조직이 필요하다.
- 로봇은 법률과 사회적 규범을 준수하고 로봇에 책임을 전가하는 것을 금지해야 한다.
- A.I. 를 활용한 무기 개발은 금지되어야 한다.
- A.I. 는 투명해야 하며 근로자는 A.I. 에 의한 의사 결정에 대해 설명을 요구할 권리가 있다.
- A.I.로 인한 일자리 변화에 대해 근로자가 원활하게 적응할 수 있도록 해야 한다.
출처: 삼정 KPMG 경제연구원 재구성