2021년 3월 시행되는 행정기본법 제20조는 자동적 처분을 규율하여 재량이 있는 처분이 아닌 경우 법률이 정하는 바에 따라 “완전히 자동화된 시스템(인공지능 기술을 적용한 시스템을 포함한다)”으로 처분을 할 수 있도록 규정하였다. 이러한 규정은 자동적 행정결정의 일반법적 근거를 마련하였다는 점, 법치주의적 관점에서 상위법의 위임이 있음을 전제하였으며, 처분에 관하여 이루어지도록 함으로써 행정절차법의 적용대상에 포섭하였다는 점, 처분에 재량이 있는 경우를 포섭하지 않아 국민의 기본권 보호 및 신뢰보호 측면에서 의미를 갖는 것으로 생각된다. 이에 따라 본고에서는 미국에서의 알고리즘에 기반한 자동적 행정결정에 관한 논의 현황과 입법에 관하여 검토하였다.
알고리즘 자동행정결정은 행정청의 “의사결정(decision-making), 집행(implementation), 상호작용(interaction)” 등에 알고리즘 기술이 활용되는 행위로 정의된다. 미국에서는 1960년대 인간의 의사결정 모델을 인지과학 측면에서 연구한 허버트 사이먼(Herbert Simon)이 정책결정 단계인 “문제상황 감지(sensing), 정책 구조화(policy structuring), 해결방안 모색(solving)”을 제안하면서, 각 행정결정의 단계에서 당해 행정결정의 개별적 성격(행정결정으로서의 본질적 요소, 복잡한 정보처리를 구조화하기 효율적 행정행위 요소, 정보공개 측면, 행정청의 전문성과 결정능력 등)을 고려하여 알고리즘을 구조화(modeling)하는 방안을 제안하였으며, 이후 여러 학자들이 알고리즘의 구조화 방식을 모델링화 하면서 행정영역(사회보장, 보건, 경찰, 의료, 이민, 자원관리, 교육, 특허)에서 공공서비스(학교배정, 세액결정, 연금액결정, 주차장 사용료 결정, 도로교통법상 교통신호등)의 형태로 활용되고 있다. 실무적인 활용에도 불구하고 연방법에서 데이터 관련 법령이 입법되지는 못하고 있다. 구체적으로 미국 상원은 2021년 7월 안전한데이터법(S.4646)안을 제출하였는데, 법안은 플랫폼 사업자의 상품 노출 순위결정 또는 이용자 상호평가에서 알고리즘을 활용하는 경우 알고리즘 순위 방식(시스템) 공개원칙, 수집된 정보의 투명하고 신뢰성있는 동의방식 도입(선택적 동의 방식 포함), 온라인 플랫폼 사업자의 책임 강화를 추진하고 있으며, 기업의 불공정하고 기만적인 정보활용 활동에 대한 연방거래위원회(FTA)의 권한을 확대하는데 중점을 두고 있다. 반면에 주법에서는 데이터관련 법령을 제정하고 있는데 대표적으로 뉴욕시 데이터공개법에 해당하는 뉴욕시 행정법전(NY Adm. Code Title 23 Ch. 5)에서 “특정 벌칙부과 또는 경찰작용”에 있어서 알고리즘 등의 자동화된 데이터 처리가 가능하다고 규정하면서 해당 웹사이트의 시스템 코드를 공개하고, 사용자가 스스로 데이터를 제출하고 제출된 데이터에 대한 처리 결과를 요구할 수 있도록 하도록 규정하였다.
이와 같은 논의에 근거할 때 다음과 같은 시사점을 도출하고자 한다. 첫째, 미국의 경우 자동행정결정의 대상범위를 “특정 벌칙부과 또는 경찰작용”으로 제한한 것에 반하여 우리 행정기본법에서는 그 범위를 법령이 정하는 바에 따르면 재량이 있는 경우를 제외하도록 하여 보다 명확한 일반법적 근거를 마련하였다는 점에 서 의미가 있다고 생각된다. 다만 추후 법률의 위임이 있는 경우, 재량이 있는 경우에 관한 판단이 국민의 기본권 보호 관점에서 구체적으로 논의되어야 할 것으로 생각된다. 둘째, 미국의 경우 알고리즘의 구조화에 단계에 따라 의사결정권한의 위임문제를 프로그램화 하고 있는데, 법률에서 재량행위 또는 침익적 행정행위에 해당하는 경우 잘 구조화된 알고리즘이라 하더라도 의사결정권한을 위임하거나 완전자동행정결정이 적용되기는 어려울 것으로 생각되며, 자동적 행정결정은 프로그램 및 관련 정보의 입력, 결정 프로세스, 감시체계 등에서 실질적 인간의 지배가 이루어지도록 설계할 수 있을 것으로 생각된다. 또한, 기준의 변동가능성, 전문가 결정의 필요성 등을 고려할 때 알고리즘의 세부사항을 법률에 규정하기는 쉽지 않으므로 개별 벌률 등에서 결정의 권한과 범위, 사전 또는 사후적 통제절차 등 절차를 중심으로 위임한 범위에서 알고리즘 행정행위가 이루어지도록 하여야 할 것으로 생각된다. 우리 행정기본법에서는 자동적 처분의 대상으로 법령이 정하는 바에 따라 처분할 수 있음을 규정하고 있으므로 이에 근거하여 처분의 기준설정의 원칙을 하위법령 등으로 정할 수 있을 것으로 생각된다. 셋째, 미국의 경우 구체적인 이유부기를 요구할 수 있도록 규정하고 있으며 연방 정보공개법상 충분한 정보공개를 원칙으로 하고 있는 바, 우리 행정기본법상 자동적 처분의 경우에도 의견청취 절차는 생략하기 어려운 것으로 보아야 할 것이며 이유부기도 보다 구체적으로 이루어져야 할 것으로 생각된다. 넷째, 행정기본법 제20조의 경우 경우 자동적 처분을 주된 대상으로 하고 있으므로 자동적 행정결정에 대한 처분성 논의를 구체화하고 있는 것으로 생각된다. 데이터를 활용한 기술발전이 빠르게 이루어짐에 따라 세액결정, 경찰행정 등에서 자동적 행정행위가 나타날 가능성이 높으므로 다양한 행정영역에서 처분성의 인정여부의 문제가 나타날 것으로 예상된다. 미국의 경우 알고리즘의 구조화 정도에 따라 국민에게 미치는 영향을 달리 평가하고 있는 것으로 이해되는데, 추후 구조화가 잘 된 알고리즘 자동결정의 경우 행정권한의 구체적 위임을 통한 행정행위도 인정될 수 있으므로 행정행위성 인정여부까지 함께 논의할 수 있을 것으로 생각된다.
Administrative decision using algorithm is defined as an action in which algorithm technology is used for “decision-making, implementation, and interaction” of administrative agencies. As Dr. Herbert Simon described the policy-making stages “sensing, policy structuring, and solving”, the algorithm automated administrative decision was developed in consideration of the each characteristics of the administrative decision at each stage of administrative decision (essential characters as the administrative decisions, elements of effective administrative actions to structure complex information processing, aspects of information disclosure, expertise and and decision-making capabilities of administrative agencies, etc.) A method of modeling has been proposed, and since then, several scholars have modeled the structuring method of the algorithm, and public services (school assignment, It is being used in the form of tax amount determination, pension amount determination, parking lot usage fee determination, traffic signals under the Road Traffic Act).
As a premise for automatic algorithm decision, problem-solving ability is determined according to the degree of system structure, the possibility of delegating decision-making authority to the algorithm, and the need to control abuse of discretion are legislatively determined. In other words, if the system for automatic algorithm determination is well structured, the administrative agency can verify the existence of necessary information or whether the data is accurate. difficulties also arise. When the algorithm is elaborately structured in the design stage of the algorithm, the analysis structure is formalized and the causal relationship is clearly shown. It becomes difficult to predict the derivation of the results. In terms of utilization, if the algorithm is well structured, the authority to make administrative decisions can be delegated to artificial intelligence, and the risk of abuse is not high if it is not intervened with unethical intentions.
As discussed above, following issues need to be considered to implement administrative decision using algorithm. First, in terms of subject categorization, the New York State law stipulates that algorithmic decision making can be applied with respect to simple administrative actions, so it is premised that the application of algorithmic administrative decision can be limited in areas where discretion or discretion is recognized in reality. It is thought that even the algorithm that has been used should be used limitedly in areas where there is a high possibility of intrusive administrative actions or violation of basic rights. Moreover, regarding the possibility of delegating the standard setting algorithm (program), in the case of the United States, the chevron doctrine serves as a standard for judicial review in the administration), it would be difficult to be recognized as a decision that relies on the special expertise of the administrative agency (even in areas where delegation has been made by law), rather, it can be considered that such a standard setting algorithm is at least a relationship between administrative rules and administrative actions in that it is “a decision made by an algorithm determined by a public official at least that cannot be done without human assistance”. For example, in the case of areas that include value judgment such as extension of the taxable period and determination of taxable items, cost-benefit analysis should be minimized and discussion should be conducted in a way that emphasizes administrative procedures. Next, in terms of guaranteeing procedural rights (from the point of view of the due process), it is thought that the argument that unconditional counter-factual explanations should be made when automatic administrative decisions are made (“unconditional counter-factual explanations”) can be referred to.