민주주의에 대한 인공지능의 위험과 규범적 대응 방안

홍석한

추천

검색

자료유형: 학술저널

저자정보: 홍석한 (전남대학교)

저널정보: 한국헌법학회 헌법학연구 헌법학연구 제28권 제1호

발행연도: 2022.3

수록면: 127 - 159 (33page)

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

인공지능은 우리 사회를 민주주의와 국가의 책임을 강화하는 방향으로 이끌 수도 있고, 국가의 억압적인 능력을 증폭시키는 방향으로 이끌 수도 있다. 인공지능이 민주주의의 실현에 미칠 수 있는 위험성을 분명하게 인식하는 가운데 그에 따른 부정적인 영향력을 가능한 한 다양한 측면에서 파악하고, 그러한 영향력을 최소화하기 위한 규범적 대응 방안을 고민해야 한다. 이러한 배경에서 본 논문은 인공지능이 민주주의에 미치는 영향과 관련하여 위험으로 여겨지는 요소들을 분석하고, 규범적 대응의 방향과 원칙을 고찰한다. 민주주의의 의의와 구성요소, 인공지능의 특징을 정리한 다음, 이에 기초하여 인공지능의 발전으로 인해 민주주의가 위험에 처할 수 있는 요인과 내용을 살펴보고, 국가가 취해야 할 규범적 대응의 토대를 제시한다. 인공지능이 민주주의에 미칠 수 있는 부정적인 영향력은 다음과 같이 정리해볼 수 있다. 첫째, 개인의 일상생활과 사회 전체 시스템의 자동화를 유도함으로써 자율성과 자기결정에 바탕을 둔 자기지배의 실현에 균열을 초래할 수 있다. 둘째, 다양한 데이터 세트로부터 개인을 포괄적으로 프로파일링하고 익명화된 데이터를 재식별하는 능력을 통해 개인에 대한 상시적인 감시사회의 출현 가능성을 높인다. 셋째, 정보 및 그 흐름의 방식을 정교하게 조작하는 것을 가능하게 함으로써 왜곡된 의사결정을 유도하고 표현의 자유 행사를 방해할 수 있으며, 합리적인 토론과 타협도 어렵게 만들 수 있다. 넷째, 인공지능의 개발과 활용을 주도하는 소수의 민간 디지털 기업들이 표현의 자유와 민주주의 국가 시스템을 위협할 수 있다. 인공지능에 대한 규범적 대응은 이러한 위험성을 최소화하는 것을 목표로 삼아야 한다. 국가가 규제적 관점에서만 접근함으로써 기술의 발전과 기업의 창의성을 저해하는 것은 경계해야 하지만 구속력 없는 자율규제에만 의존하기는 어렵다. 인공지능에 대한 규율에서는 무엇보다 인간 중심적인 발전이 강조되어야 한다. 인공지능의 설계, 개발 및 활용은 인간의 존엄성을 존중해야 하며, 인간이 인공지능에 의한 평가나 조작의 대상으로만 취급되는 것은 거부되어야 한다. 이를 위해서는 인공지능에 대한 전적인 의존을 배제하고 인간의 개입을 요구할 수 있는 권리가 보장되어야 하며, 관련된 모든 주체의 책임의식과 자율적 능력을 향상시키기 위한 교육을 제도화해야 한다. 한편, 인공지능에 대한 규범적 대응에서 가장 강조되어야 하는 원칙은 투명성이다. 민주주의에 부정적인 영향을 미칠 수 있는 인공지능 시스템에 대한 추적과 감독이 가능해야 한다. 기본적으로 인공지능 시스템에 대한 감독이 가능하도록 그 기능, 적용 논리, 사용된 데이터의 유형 등 관련 정보를 기록하도록 하고, 접근 가능성을 보장해야 한다. 인공지능의 영향을 받는 사람도 자신에게 적용된 결과가 인공지능에 의해 발생했다는 사실을 알 수 있어야 하고, 그러한 결론에 도달하게 된 방법과 절차, 그에 따라 개인의 이익에 가해지는 효과, 위험성이나 오류 가능성에 대해서도 적절한 정보를 제공받을 수 있어야 한다.

AI can lead our society in the direction of strengthening democracy and the responsibility of the state, or it can lead in the direction of amplifying the state's oppressive capabilities. While clearly recognizing the risks that AI can have on the realization of democracy, it is necessary to identify the negative impacts from as many different aspects as possible, and to consider normative countermeasures to minimize such impacts. Considering the above points, this thesis analyzes the factors considered to be dangerous in relation to the impact of AI on democracy, and examines the direction and principles of normative response. After arranging the significance and components of democracy and the characteristics of AI, based on this, we examine the factors and contents that can put democracy at risk due to the development of AI, and present the principles of normative response that the state should take do. The negative impact that AI can have on democracy can be summarized as follows. First, it can lead to cracks in the realization of self-domination based on autonomy and self-determination by inducing automation of individual's daily life and the entire system of society. Second, through the ability to comprehensively profile individuals from various data sets and re-identify anonymized data, it increases the possibility of the emergence of a permanent surveillance society. Third, by enabling sophisticated manipulation of information and its flow, it can induce distorted decision-making and hinder the exercise of freedom of expression, and can also make rational discussion and compromise difficult. Fourth, a small number of private digital companies leading the development and use of artificial intelligence may pose a threat to freedom of expression and democratic systems. A normative response to AI should aim to minimize the above negative possibilities. The state should be wary of hindering technological development and entrepreneurial creativity by approaching it only from a regulatory perspective, but it is difficult to rely solely on non-binding self-regulation. Above all else, human-centered development should be emphasized. The design, development and use of AI should respect human dignity. To this end, the right to demand human intervention must be guaranteed by excluding total dependence on AI, and education must be institutionalized to improve the sense of responsibility and autonomous ability of all relevant actors. On the other hand, transparency should be emphasized. It should be possible to track and supervise AI systems that could negatively impact democracy. Basically, to enable the supervision of the AI system, related information such as its function, application logic, and type of data used should be recorded, and accessibility should be guaranteed. People affected by AI should be able to know that the results applied to them were caused by AI, and the methods and procedures that led to such conclusions, and consequently the effects on personal interests, risks, or potential for errors. Appropriate information should also be provided.

#인공지능 #헌법 #민주주의 #인권 #표현의 자유 #투명성 #Artificial Intelligence(AI) #Constitution #Human Rights #Freedom of expression #Transparency

참고문헌 (0)

참고문헌 신청

참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

홍석한

소속기관 전남대학교

주요연구분야 사회과학 > 법학

논문수 7 이용수 324

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (0)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

최근 본 자료

댓글(0)