지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.47 No.12
- 발행연도
- 2020.12
- 수록면
- 1,181 - 1,191 (11page)
- DOI
- 10.5626/JOK.2020.47.12.1181
이용수
초록· 키워드
오류제보하기
인공지능 기반 기술이 사회경제학적으로 큰 영향을 미치는 분야에 활용될 예정임에 따라 인공지능 기술의 안전성 및 신뢰성을 확보하기 위하여 그 판단에 대해 설명하려는 연구들이 이루어져 왔다. 이러한 ‘설명가능한 인공지능’의 일환으로서 인공지능의 입력 특성 각각에 기여도를 부여함으로써 판단을 설명하고자 하는 ‘특성기여도 분석(feature attribution)’ 방법론이 있다. 본 논문에서는 지금까지 개발된 아홉 가지의 대표적인 특성기여도 분석 방법론에 대해 조사하고, 조사된 특성기여도 분석 기법들에 대해 네 가지 서로 다른 분류 기준을 사용하여 분류한다. 이와 같은 분류의 결과로서 지금까지 개발된 특성기여도 분석 방법론들 중 많은 기법이 특정 가정하에서만 적용가능하다는 점, 공리적 정의와 같은 이론적인 배경이 뒷받침되지 않는다는 점 등의 한계점을 확인할 수 있었다. 분류에 대한 분석을 바탕으로 통합된 특성기여도 분석 기법 개발을 위하여 반드시 선행되어야 할 연구방향을 제시한다.
목차
요약
Abstract
1. 서론
2. 설명가능한 인공지능과 특성기여도 분석
3. 기울기 기반 설명기법
4. 변동값 기반 설명기법
5. 대리 모델 기반 설명기법
6. 특성기여도 분석 방법의 분류
7. 결론
References
참고문헌 (39)
참고문헌 신청
C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. J. Goodfellow, and R. Fergus, "Intriguing properties of neural networks," ICLR (Poster), 2014.
I. J. Goodfellow, J. Shlens, and C. Szegedy, "Explaining and harnessing adversarial examples," ICLR (Poster), 2015.
K. Eykholt, I. Evtimov, E. Fernandes, B. Li, A. Rahmati, C. Xiao, A. Prakash, T. Kohno, and D. Song, "Robust physical-world attacks on deep learning visual classification," CVPR, IEEE Computer Society, 2018.
N. Carlini and D. A. Wagner, "Audio adversarial examples: Targeted attacks on speech-to-text," IEEE Symposium on Security and Privacy Workshops, IEEE Computer Society, 2018.
M. Sharif, S. Bhagavatula, L. Bauer, and M. K. Reiter, "Accessorize to a crime: Real and stealthy attacks on state-of-the-art face recognition," ACM Conference on Computer and Communications Security, ACM, 2016.
I. J. Goodfellow, J. Shlens, and C. Szegedy, "Explaining and harnessing adversarial examples," ICLR (Poster), 2015.
K. Eykholt, I. Evtimov, E. Fernandes, B. Li, A. Rahmati, C. Xiao, A. Prakash, T. Kohno, and D. Song, "Robust physical-world attacks on deep learning visual classification," CVPR, IEEE Computer Society, 2018.
N. Carlini and D. A. Wagner, "Audio adversarial examples: Targeted attacks on speech-to-text," IEEE Symposium on Security and Privacy Workshops, IEEE Computer Society, 2018.
M. Sharif, S. Bhagavatula, L. Bauer, and M. K. Reiter, "Accessorize to a crime: Real and stealthy attacks on state-of-the-art face recognition," ACM Conference on Computer and Communications Security, ACM, 2016.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
설명 가능한 인공지능을 사용한 학습데이터 전처리 방법 제안
한국정보과학회 학술발표논문집
2021 .12
-
설명가능 인공지능
소음·진동
2017 .11
-
설명가능 인공지능의 활용
전자공학회지
2021 .09
-
설명 가능한 인공지능(XAI, eXplainable AI)를 이용한 익형 역설계 네트워크의 신뢰도 향상
한국항공우주학회 학술발표회 초록집
2021 .07
-
귀인 이론과 의인화 과정을 기초로 한 설명 가능한 인공지능에 대한 연구 프레임워크 제안
대한인간공학회 학술대회논문집
2017 .11
-
인공지능 기반 역설계 문제에서 설명가능 인공지능과 이상치 점수를 이용한 합리적인 해 도출 방법
한국항공우주학회 학술발표회 초록집
2023 .04
-
생성형 인공지능에 대한 인공지능 자기효능감과 인공지능 불안, 인공지능 신뢰가 태도와 수용의도에 미치는 영향
디지털콘텐츠학회논문지
2024 .11
-
컴퓨터 비전공자를 위한 인공지능 교양 교육 과정 설계
디지털콘텐츠학회논문지
2022 .01
-
AI의 전산유체해석 적용성 향상을 위한 설명가능한 인공지능(XAI)
한국전산유체공학회 학술대회논문집
2023 .05
-
인공지능(AI)을 보는 관점
설비저널
2024 .09
-
설명가능 인공지능의 연구 동향
전자공학회지
2021 .09
-
설명가능 인공지능 연구동향
정보과학회지
2019 .07
-
인공지능 제어기를 위한 인공지능 해석기법 연구
한국자동차공학회 춘계학술대회
2021 .06
-
심층 발걸음 인식 모델에 대한 설명가능한 인공지능
한국통신학회 학술대회논문집
2021 .02
-
인공지능의 활용, 프로젝트 관리 그리고 활용 리스크에 대한 문헌 연구
정보화정책
2022 .06
-
불확실성 인지 주의집중 메카니즘 기반 설명가능 인공지능
정보과학회지
2019 .07
-
XAI 설명방식이 사용자의 인지된 이해도와 신뢰도에 미치는 영향: 조절초점의 역할
지능정보연구
2024 .09
-
인공지능(AI) 영상분석 시스템
한국지능정보시스템학회 학술대회논문집
2021 .12
-
설명가능 인공지능 산업분야 적용 사례
전자공학회지
2021 .09
-
효율적인 인공지능을 위한 특성 선택 기술 조사 분석
전자공학회지
2023 .11
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0