도서 소개
포스텍 융합운명연구원 총서 문명과 시민 7권. 인공지능 시대의 윤리적 쟁점을 다루며, AI 기술의 잠재적 위험과 혜택을 모두 고려한 공정성, 투명성, 책임성, 프라이버시 등의 원칙을 AI 시스템 전반에 걸쳐 반영해야 한다고 강조한다. 이는 기술적 혁신과 인간의 가치 사이의 균형을 찾기 위한 중요한 출발점이며, 미래를 향한 책임 있는 방향 설정의 핵심 요소이다. AI 윤리에 대한 논의가 중요해지고 있는 이 시점에 참고해야할 만한 책이다.
출판사 리뷰
인공지능 ‘사이비’ 정보의 홍수
2023년 11월 OpenAI에서 챗GPT를 공개한 이후 등장한 다양한 생성형 인공지능 기술은 새로운 패러다임을 제시하고 있는 듯하다. 텍스트뿐만 아니라 이미지나 동영상도 거침없이 생산한다. 주어진 명령에 따라 그럴듯하게 시를 짓고 작곡도 하고 도표도 깔끔하게 그린다. 엑셀이나 코딩 실력은 엄청나다. 아무리 어려운 질문에 대해서도 불과 몇 초 만에 그럴듯한 대답을 척척 내놓는다. 그러나 그 답이 참이라는 보장은 전혀 없다.
그렇기 때문에 생성형 인공지능 기술이 특히 교육 현장에 미칠 영향은 즉각적이고 심각해 보인다. 그 활용 여부를 두고 외국 대학은 물론이고 국내 대학들이 심각한 고민에 빠져 있다. 인공지능에 대한 교육을 전폭적으로 확대해야 한다는 주장이 이제 지극히 당연한 것으로 설득력을 더욱 얻고 있는 가운데 많은 대학에서 인공지능 관련 교수학습가이드라인을 발표하는 등 발빠르게 대처하고 있다. 그러나 생성형 인공지능 기술을 학생들에게 허용하는 것에 대한 반대의 목소리도 결코 적지 않다. 왜냐하면 생성형 인공지능 기술은 ‘진리추구’와 ‘노력’이라는 교육의 본원적 가치를 근본적으로 훼손하는 것처럼 보일 뿐만 아니라 학생들의 창의력 증진을 방해하면서 표절에 대해 무감각하게 만들어 결국은 지적 절도 행위를 조장하여 윤리의식 자체를 훼손할 수 있기 때문이다.
특히 세계적 권위를 인정받고 있는 학술지 『사이언스(Science)』에서는 학술 논문 심사에 대한 새로운 가이드라인을 발표하면서 챗GPT가 생산한 도표나 이미지를 사용할 경우 연구 부적절 행위로 간주하겠다고 선언하였다. 이와 쌍벽을 이루는 『네이처(Nature)』 역시 인공지능은 책임 능력과 설명 능력이 없다는 이유 때문에 학술 논문의 저자가 될 수 없다고 선언하였다. 세계적인 언어학자인 노엄 촘스키 역시 챗GPT는 ‘거짓 약속’에 불과하며 결국 우리의 학문과 윤리를 격하시킬 것이라고 경고한다.
그럼에도 불구하고 챗GPT와 더불어 다양한 인공지능 기술이 지속적으로 등장하면서 다양한 디지털 정보들이 폭발적으로 재생산될 것이다. 그런데 최근 한 보고에 따르면 전문학술지의 심사자들조차 챗GPT 등 인공지능 기술을 통해 재생산된 자료 중 60% 정도밖에 확인하지 못하였다고 한다. 이런 상황에서 무엇보다 중요한 것은 디지털 리터러시이다. 디지털 리터러시란 디지털 정보를 제대로 이해할 수 있는 능력을 말한다.
챗GPT는 OpenAI에서 스스로 밝히고 있듯이 ‘그럴듯한’ 이야기를 너무나도 생생하게 제시하고 있지만 현실이 정말 그렇다는 보장은 전혀 없다. 그래서 환각이 나타나는 것이다. 따라서 인공지능이 재생산한 내용이 현실과 일치하는지 냉철히 판단할 수 있는 능력, 즉 통계적 가능성을 바탕으로 앵무새처럼 지저귀는 것이 아니라 ‘사이비’ 정보에 현혹되지 않는 건강한 이해 능력을 갖추는 것이 무엇보다 시급하다.
기술적 혁신과 인간의 가치의 균형을 찾기 위한 중요한 출발점
인공지능 시스템은 데이터와 알고리즘을 바탕으로 의사결정을 내리기 때문에, 데이터와 알고리즘의 특성으로 인해 의도하지 않았던 편향, 차별, 그리고 불평등을 초래할 수 있는 가능성을 배제할 수 없다. 이런 점에 대해서 우선 전통적으로 제기되어온 윤리적 쟁점들이 인공지능 기술이 본격화되면서 새롭게 제기되는 방식에 대해 근본적으로 성찰하는 것이 시급하다. 그뿐만 아니라 인공지능의 자율성과 인간의 통제 사이의 균형, 프라이버시와 데이터 보안 문제, 책임 소재의 불명확성처럼 인공지능이라는 기술 자체의 특성상 새롭게 등장하는 윤리적 쟁점들을 총체적으로 살펴볼 필요가 있다.
따라서, 인공지능 윤리는 AI 기술의 잠재적 위험과 혜택을 모두 고려하여 공정성, 투명성, 책임성, 프라이버시 등의 원칙을 세우고, 이를 AI 시스템의 설계, 개발, 배포, 사용 전반에 걸쳐 반영하는 과정을 의미한다. AI가 윤리적 원칙에 따라 개발되고 사용될 때, 우리는 AI를 통해 더 나은 사회를 만들어 나갈 수 있는 가능성을 극대화할 수 있을 것이다. 인공지능 윤리에 대한 논의는 기술적 혁신과 인간의 가치 사이의 균형을 찾기 위한 중요한 출발점이자, 미래를 향한 책임 있는 방향 설정의 핵심 요소이다.
작가 소개
지은이 : 정원섭
서울대학교 철학과에서 학사·석사·박사를 마친 후 미국 Purdue University에서 박사후과정을 거쳤다. 한국윤리학회 회장을 역임하였으며, 현재는 한국포스트휴먼학회 회장 그리고 한국철학회와 한국동양철학회 부회장으로 활동하고 있다. 정의와 인권 그리고 민주주의의 시각에서 인공지능 등 첨단 과학 기술이 현대 사회에 초래하는 다양한 변화에 대해 연구하고 있다. 주요 저서로는 『롤즈의 공적 이성과 입헌민주주의』(2008), 『좋은 삶의 정치 사상』(2014), 『현대정치철학의 테제들』(2014), 『인공지능과 새로운 규범』(2018) 등이 있다. 주요 논문으로는 “Property-owning Democracy or Democratic Socialism?”(1998), 「인권의 현대적 역설」(2012), “AI ethics on the road to responsible AI plant science and societal welfare”(2024) 등이 있다.
목차
서문
제1장 | 인공지능 윤리의 주요 쟁점
1. 윤리적 쟁점들
2. 윤리적 쟁점들에 대한 접근 방식
제2장 | 인공지능 편향성 논쟁들
1. 네이버 사례
2. 데이터 편향성
3. 알고리즘 편향성
4. 인공지능과 신뢰
제3장 | 인공지능 기술 활용에서 편향성과 윤리적 쟁점
1. 챗봇 스캔들－테이와 샤오빙 그리고 이루다
2. 헬스케어 분야 인공지능 편향성
제4장 | 주요 인공지능 가이드라인
1. 우리나라 인공지능 윤리기준
2. 인공지능시대, 윤리란?
제5장 | 인공지능시대 복지와 사회적 안전망
1. 인공지능시대 고용 불안정과 복지
2. 사회적 안전망으로서 기본소득
부록 1_대한민국 인공지능 윤리기준
부록 2_일본 인공지능 윤리기준
부록 3_ CLOVA Studio AI 윤리 가이드
부록 4_ 네이버 AI 윤리 준칙
부록 5_ 카카오 인공지능 윤리헌장
참고문헌
