과거 검색, 구매 기록 등을 기반으로 정보를 제공한다. 이는 개인에게 편리한 정보 접근성을 제공하지만, 동시에 개인의 선택 범위를 제한하고 다양한 정보에 대한 노출 기회를 줄일 수 있다.
2) 정보 필터링
알고리즘은 개인의 관심사에 맞는 정보만 제공하여 정보 격차를 심화시키고, 편향된 시각을 강화할 수 있다. 이는 다양한 의견과 정보에 대한 접근을 제한하고, 자유로운 의사 형성을 방해한다.
3) 잠재적 조작 가능성
알고리즘은 특정 의견이나 정치적 입장을 강조하도록 설계될 수 있으며, 이는 개인의 정치적 판단을 왜곡하고 선거 결과에 영향을 미칠 수 있다.
3. 블랙박스 현상: 투명성 부족과 책임 소재 불분명
인공지능 알고리즘은 작동 방식이 불투명하고 이해하기 어려운 블랙박스 특성을 가지고 있다. 이는 알고리즘의 편향성, 오류, 조작 가능성을 감지하고 책임을 추궁하기 어렵게 만든다.
4. 민주적 가치에 대한 위협: 자율성, 평등, 참여의 약화
자율성 약화: 알고리즘에 의존적인 정보 선택은 개인의 자율적인 의사 결정 능력을 약화시키고, 민주적 시민으로서의 책임감을 저하시킬 수 있다.
평등 약화: 정보 격차 심화는 사회 불평등을 심화시키고, 소외 계층의 정치 참여 기회를 제한할 수 있다.
참여 약화: 알고리즘이 정치 참여를 유도하거나 조작하는 경우, 시민들의 자발적인 참여 의지와 공동체 의식을 약화시킬 수 있다.
5. 해결 방안 모색: 민주주의 가치를 위한 노력
알고리즘 투명성 강화: 알고리즘 작동 방식에 대한 정보 공개, 감시 및 평가 시스템 구축, 시민 참여 확대
정보 접근성 보장: 다양한 의견과 정보에 대한 접근 기회 확대, 편향된 정보 필터링 방지
인공지능 윤리 제정: 인공지능 기술 개발 및 활용에 대한 윤리적 기준 마련, 민주적 가치를 존중하는 인공지능 개발
시민 교육 강화: 인공지능 시대의 정보 리터러시 교육 강화, 비판적 사고 능력 및 정보 활용 능력 향상
종합하면 인공지능 기술은 민주주의에 새로운 도전과제를 제시한다. 민주주의 가치를 유지하고 발전시키기 위해서는 인공지능 기술의 위험성을 인지하고, 적극적으로 대응하는 노력이 필요하다. 투명성 강화, 정보 접근성 보장, 인공지능 윤리 제정, 시민 교육 강화 등을 통해 인공지능 시대의 민주주의를 재정비해야 한다.
4, 인공지능의 이러한 위험성과 한계를 통제하기 위해 제시되고, 또 시행되고 있는 국내적, 국제적 제도, 원칙, 정책 및 법률 정리
인공지능의 위험성과 한계를 통제하기 위해 국내외적으로 제시되고 있는 제도, 원칙, 정책, 법률 등은 다음과 같다.
1) 윤리적 지침과 원칙 도입
인공지능 개발과 활용에 대한 윤리적 지침과 원칙을 제정하고 시행함으로써, 개인의 프라이버시 보호, 공정성 확보, 투명성 제고 등을 목표로 한다. 예를 들어, 유럽연합에서는 GDPR(일반 개인정보 보호 규정)를 통해 개인정보 보호와 투명성을 강화하고 있다.
2) 규제 및 감독체제 강화
인공지능 기술의 개발과 사용에 대한 규제 및 감독체제를 강화하여, 안전성과 공정성을 보장하고 인권 침해를 방지한다. 예를 들어, 국제적으로는 OECD의 인공지능 원칙, 국내적으로는 개인정보보호법과 관련 법령이 해당된다.
3) 투명성과 책임성 강화
인공지능 시스템의 동작 및 결정 과정을 투명하게 공개하고, 이에 따른 책임을 명확히 하는 노력이 있다. 예를 들어, AI 시스템의 운영 및 의사결정 프로세스에 대한 투명성을 확보하고, 개발자 및 운영자에게 책임을 묻는 방안을 도입하고 있다.
4) 다자간 협력 및 국제표준화
다양한 이해관계자들 간의 협력을 통해 국제적으로 표준화된 지침과 규범을 개발하고 채택함으로써, 인공지능 기술의 안전성과 윤리성을 확보한다.
5) 교육 및 인식확대
인공지능에 대한 이해도를 높이고, 윤리적 사고와 결정능력을 갖출 수 있도록 관련 교육 및 인식확대 노력이 필요하다. 이를 통해 사용자들이 인공지능 기술을 적절히 이해하고 활용할 수 있도록 지원한다.
저는 이러한 제도, 원칙, 정책, 법률 등이 필요하다고 생각한다. 하지만 동시에 이러한 노력만으로는 충분하지 않다고 생각한다. 인공지능 기술의 발전은 매우 빠르게 진행되고 있으며, 그에 따른 도덕적, 윤리적 문제들도 빠르게 발생하고 있다. 따라서 제도나 법률만으로는 인공지능의 모든 위험성을 완전히 통제하기에는 한계가 있다.
더불어 기술 개발자와 이용자, 정책 결정자, 국제사회 등 모든 이해관계자들이 함께 노력해야 한다. 기술적인 측면 뿐만 아니라, 윤리적, 사회적 측면에서도 논의와 협력이 이뤄져야 한다. 그리고 이러한 프로세스에서 공개적이고 투명한 토론과 의사결정이 이뤄져야 한다고 생각한다.
결론
인공지능 시대의 진입과 함께 진화한 알고리즘 검색 엔진과 추천 플랫폼에 의한 타겟팅 광고는 개인의 과거 검색이나 구매 기록 등 다양한 온라인 활동으로부터 수집된 개인정보와 메타데이터를 기반으로 이루어진다. 그러나 이렇게 제공받은 편의는 개인의 실질적 결정 의사를 반영한 것이 아니라, 알고리즘에 의해 분석된 개인의 취향과 요구일 뿐이다. 그리고 이러한 과정에서 인간의 자율의사는 철저히 배제되어 있다는 점에서 자기지배 실현을 방해 받을 수 있다.
인간은 인공지능 제안에 따른 선택을 하면서 그 스스로 자율적으로 선택했다고 믿을 수 있지만, 실제로는 유도된 선택일 가능성이 높기 때문이다. 그리고 이러한 알고리즘의 타깃팅 구조가 국가의 정책 결정이나 공직선거 과정에 적용될 경우에 그 위험은 더욱 심각해진다.
인공지능 알고리즘이 가지고 있는 블랙박스 현상 역시 이러한 헌법적 위험을 갖다. 인공지능의 블랙박스 현상은 기술 관계자의 유도적 설계나 설정, 조작 개입 가능성을 완전히 배제 시키지 못하며, 이로 인해 인공지능에 기반한 자동화 서비스의 제공과 선택을 언제나 최적으로 간주하는 것도 어렵다.
이러한 이유로 인공지능 기술의 발전과 함께, 민주주의의 기본 원리인 \'자기지배\'와 \'인간의 자율성\'을 보호하고 강화하는 방안에 대한 고민이 필요하다.
참고문헌
국제인권법 한국방송통신대학교 출판문화원
손 은지, 인공지능의 헌법적 위험과 대응적 규범체계 정립에 관한 연구, 숙명여자대학교 대학원, 박사 논문 2023