태터데스크 관리자

도움말
닫기
적용하기   첫페이지 만들기

태터데스크 메시지

저장하였습니다.

정보공개센터/활동소식

정부와 국회는 인공지능 정책에서 인권과 안전, 민주주의를 보장하라

 


120개 시민사회단체, 인공지능에 대한 첫 공동 선언
“정부와 국회는 인공지능 정책에서 인권과 안전, 민주주의를 보장하라”

공공과 민간 인공지능은 인권과 법률을 준수하고
소비자, 노동자, 시민을 보호하는 인공지능 규율법이 마련돼야


 

  • 120개 시민사회단체는 오늘(5/24, 월) 오후 2시 참여연대 아름드리홀에서 기자회견을 열고 정부와 국회에 인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 선언을 발표했습니다. 시민사회단체는 △인공지능의 인권과 법률 준수 △인공지능 규율법의 마련을 촉구하며, 규율법에 담겨야 할 내용으로 ①인공지능 국가 감독 체계 마련 ②정보 공개와 참여 ③인공지능 평가 및 위험성 통제 ④권리구제 절차 보장을 제안하였습니다.

 

 

  • 최근 정부는 과학기술정보통신부・4차산업혁명위원회 등 산업진흥 부처・기구 주도 하에 인공지능 정책을 발표하고 있으며, 관련 입법 또한 빠른 속도로 추진할 계획입니다. 코로나 위기로 여론 수렴이 부족한 상황에서 지난 3월 정부와 국회는 행정청이 인공지능을 비롯해 완전히 자동화된 시스템으로 처분을 할 수 있도록 하는 「행정기본법」(제20조)을 제정하였고, 행정기관이 인공지능을 활용하여 전자정부서비스를 제공할 수 있도록 하는 내용의 「전자정부법 일부개정법률안」도 심의 중입니다(안 제18조의2). 그러나 인공지능으로 사람에 대한 처분이나 의사결정에 이르도록 하면서 그 보호 방법이나 구제절차에 대한 논의는 충분히 이루어지지 못하였으며, 과학기술정보통신부 등이 주도하는 인공지능 정책은 산업계의 요구로 점철되어 있습니다. 

 

 

  • 반면 시민사회는 이미 인공지능 챗봇 이루다 논란으로 불법적이고 편향적이고 무책임한 인공지능 제품이 어떻게 우리의 개인정보를 오남용하고 사회적 혐오를 재생산할 수 있는지 목격하였습니다. 공공기관과 민간기업이 <AI 채용>을 확대하고 있지만 불합격된 사람들은 본인이 어떻게 평가받고 탈락되었는지, 혹여 사투리나 외모로 차별받았는지 알 수 없습니다. 여성이나 장애인에게 차별적인 인공지능 스피커가 학교 교육에 이용되거나 안전이 검증되지 않은 자율주행차량이 거리를 질주할 때 우리의 미래 또한 위험할 것입니다. 알고리즘은 이미 언론 공론장과 노동을 통제하고 있으며, 금융서비스와 사회복지급여에 관여하고 있고, 심지어 사람을 대신하는 인공지능의 자동 행정과 의사결정도 시작되었습니다. 인공지능의 무기화 또한 빠르게 진행되고 있습니다. 

 

 

  • 해외 여러 나라에서는 인공지능에 인권과 법률 준수를 요구하는 목소리가 커지고 있습니다. 2017년 폴란드와 미국의 법원은 각각 실업 급여와 교사 해고를 결정하는 데 사용된 인공지능 알고리즘에 대하여 투명성 보장을 요구하였고, 2020년 네덜란드 법원은 사회복지급여 부정수급 탐지 알고리즘의 운영을 중단시켰습니다. 영국에서는 코로나로 취소된 대학입학시험에서 교사 대신 인공지능이 부여한 성적이 부유한 사립학교 학생에게 높은 점수를 부과하여 사회적 분노를 샀습니다. 심지어 플랫폼 기업의 알고리즘이 미국 대통령 선거 등 민주주의에도 영향을 미쳤다는 경각심이 일고 있습니다. 여러 나라에서 인공지능을 규율하는 정책을 마련하고 있으며, 특히 유럽연합은 지난 4월 기본권 일반과 노동자·소비자의 권리에 영향을 미치는 인공지능 제품과 서비스에 대하여 엄격하게 관리하는 내용의 법안을 유럽 의회에 발의하였습니다.

 

 

  • 기자회견 참석자들은 인공지능의 편향성과 위험성이 사람의 인권과 안전에 영향을 미친 최근의 논란을 지켜보며 인공지능 제품과 서비스를 무조건 신뢰하기는 어렵다고 밝히고, 모든 인공지능 시스템이 헌법과 관련 법률에 따라 개인정보를 보호하고 인권 침해와 차별을 금지해야 한다고 주장하였습니다. 더불어 공공과 민간이 도입하고 사용하는 모든 인공지능이 소비자의 안전과 권리를 보호하며, 노동자와 노동권을 보호하는 현행 법률을 준수할 것을 요구하였습니다. 참석자들은 딥러닝 등 특정한 기술적 특성이나 기업자율적인 윤리가 인권과 법률의 준수 의무를 회피하는 이유가 되어서는 안된다고 강조하였습니다.

 

 

  • 또한 참석자들은 인공지능을 사회적으로 적절히 통제하기 위해 정부와 국회가 인공지능을 규율하는 법률을 마련할 것을 촉구하였습니다. 인공지능 규율 법률은 우선 인공지능 제품과 시스템을 국가적으로 감독하는 체계를 수립하여야 하는데, 참석자들은 국민을 위해 인공지능을 감독하는 역할은 산업부처나 기술부처가 아니라 공정거래위원회, 국가인권위원회, 개인정보보호위원회가 수행해야 마땅하다고 지적하였습니다.
    더불어 인공지능 규율 법률이 인공지능 시스템에 대한 정보공개와 참여로 그 투명성과 민주성을 보장하여야 하며, 특히 공공기관 인공지능의 경우 민간에서 조달한 시스템이라 하더라도 국민 앞에 공개해야 한다고 밝혔습니다. 또한 위험한 인공지능을 제도적으로 통제하기 위하여 법률적 의무를 부과하고, 사람의 안전과 생계, 인권에 대하여 명백한 위험을 야기하는 인공지능은 금지해야 하고, 특히 실시간으로 거리에서 불특정다수의 얼굴을 인식하여 추적하는 시스템은 원칙적으로 금지해야 한다고 주장했습니다. 마지막으로 참석자들은 피해를 입거나 인권을 침해당한 사람에 대하여 권리구제를 보장할 것을 요구하였습니다. 피해를 입거나 인권을 침해당한 당사자가 인공지능 제품과 시스템에 대응할 수 있으려면 인공지능이 언제 어떻게 사용되었는지, 어디서 어떻게 이에 대한 이의를 제기할 수 있는지 알 수 있어야 한다고 주장했습니다. 

 

 

  • <인권과 안전, 민주주의가 보장되는 인공지능 정책 요구 시민사회 선언> 기자회견에는 백정현(민주노총 사무금융노조 정책국장), 조선희(민주언론시민연합 팀장), 은사자(한국여성민우회 성평등미디어팀 활동가), 김민(진보네트워크센터 활동가), 한광희(피스모모 리서치랩 팀장), 오정미(참여연대 공익법센터 운영위원), 서채완(민변 디지털정보위원회 변호사) 등이 참석하여 발언하였고, 김조은(투명사회를위한정보공개센터), 이라나(중구장애인자립생활센터), 허진선(평등과연대로!인권운동더하기) 활동가가 선언문을 낭독했습니다. 오늘 발표한 시민사회 선언은 이후 관련 정부부처 및 국회 상임위원회에 전달할 예정입니다. 끝.

 


▣ <인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 시민사회 선언 기자회견> 개요 

  • 일시 및 장소 : 2021년 5월 24일(월) 오후 2시, 참여연대 2층 아름드리홀 
  • 공동 주최 : 인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 시민사회 선언 연명 120개 단체
  • 사회 : 장여경(정보인권연구소 이사)
  • 발언
    • 시민사회 선언의 취지와 배경 
    • 각계 발언 및 인공지능 법적규제의 필요성 등 선언 주요 내용 
    • 선언문 낭독 : 김조은(투명사회를위한정보공개센터), 이라나(중구장애인자립생활센터), 허진선(평등과연대로!인권운동더하기) 활동가 
  • 선언문 낭독 : 김조은(투명사회를위한정보공개센터), 이라나(중구장애인자립생활센터), 허진선(평등과연대로!인권운동더하기) 활동가
  • 질의 응답 

▣ 붙임 : 인권과 안전, 민주주의가 보장되는 인공지능 정책 요구 시민사회 선언문

 

 

20210524_인공지능시민사회선언문.pdf
4.92MB

You logged-in!
비밀글
Nav