[AI] ChatGPT로 만든 위조 여권으로 금융 앱 인증 절차를

https://www.boannews.com/media/view.asp?idx=136800&kind=&sub_kind=

챗GPT로 만든 위조 여권 “깜쪽같네”...금융 앱 인증 절차 뚫어

 

 

ChatGPT 신규 모델인 GPT-4o 이미지 생성 서비스를 통해 지브리 풍의 사진을 만들고 네컷 만화를 그려달라는 등

현재 여러 모로 유행이 지속되고 있는데, 이렇게 정교하게 발달된 AI를 이용함에 있어 얼마나 더 많은 역효과가 생길지..

 

AI에 대한 규제가 더욱 필요하다고 느껴졌다.

 

https://www.lawtimes.co.kr/news/198482

EU, 세계 첫 AI규제법 2026년 시행 확정

https://www.donga.com/news/Inter/article/all/20240523/125065594/1

EU, 세계 첫 ‘AI 규제법’ 11월 시행… 韓은 AI기본법도 못만들어

 

EU의 '인공지능 규제법(AI Act)'은 세계 최초의 강제력을 갖는 AI 법안이다.

해당 규제법은, 인터넷의 여러 정보들을 수집하여 정보를 학습하다 보니,

무분별한 개인정보, 생체정보 등을 수집하여 상업적 용도로 사용하며 개인의 인권을 침해할 수 있다는 위험성에서 비롯되었다.

 

이를 통해 우리 나라에서도 AI에 대한 법률이 제정되었다. 통칭 AI 기본법으로 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'으로 2026년 1월 22일부터 시행할 예정이다.

 

https://www.lawtimes.co.kr/LawFirm-NewsLetter/204461

AI 기본법 통과의 의의 및 산업계에 미칠 영향

 

https://www.law.go.kr/%EB%B2%95%EB%A0%B9/%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5%20%EB%B0%9C%EC%A0%84%EA%B3%BC%20%EC%8B%A0%EB%A2%B0%20%EA%B8%B0%EB%B0%98%20%EC%A1%B0%EC%84%B1%20%EB%93%B1%EC%97%90%20%EA%B4%80%ED%95%9C%20%EA%B8%B0%EB%B3%B8%EB%B2%95/(20676,20250121)

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법

 

제5조(다른 법률과의 관계) ① 인공지능, 인공지능기술, 인공지능산업 및 인공지능사회(이하 “인공지능등”이라 한다)에 관하여 다른 법률에 특별한 규정이 있는 경우를 제외하고는 이 법에서 정하는 바에 따른다.

-> AI에 대한 일반 법으로, 다른 법률에 특별한 규정이 있는 경우에는 그 법을 따른다.

 

인공지능의 발전, 사용을 위한 촉진(제3장 인공지능기술 개발 및 산업 육성) 과

인공지능에 대한 규제(제4장 인공지능윤리 및 신뢰성 확보) 로 나뉜다고 볼 수 있을 것 같다.

 

또한 EU의 AI법과 다른 점은

EU법은 인공지능의 종류를 허용불가위험 / 고위험 / 제한된위험 / 저위험 4개의 분류로 나누어 규제하고 있지만,

우리나라의 AI법은 고영향인공지능 / 생성형인공지능 에 대해서만 별도로 정의하여 규제하고 있다.

 

-----

허용불가위험ai시스템 : 인간의 존엄성, 자유, 평등, 차별 금지, 민주주의 및 법치 등 EU의 기본 가치를 위한하는 AI시스템

고위험ai시스템 : 사회에 잠재적인 위험을 초래할 수 있는 AI 시스템

                          데이터 거버넌스, 투명성, 통제성, 정확성, 견고성, 보안성 등의 요건을 갖춰야 함

제한적위험ai시스템 : 특정 분야에서 제한적인 위험을 가질 수 있는 AI시스템

                                투명성, 설명 가능성, 인간 감독 등의 요건을 갖춰야 함

저위험ai시스템 : 위험도가 낮은 AI시스템

                          낮은 수준의 규제(ex 스팸필터)만 적용

-----

 

-----

고영향 인공지능 : 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템

                          에너지의 공급, 먹는 물의 생산 공정, 보건의료의 제공 및 이용체계의 구축ㆍ운영, 디지털의료기기의 개발 및 이용, 원자력시설의 안전한 관리 및 운영, 범죄 수사나 체포 업무를 위한 생체인식정보의 분석ㆍ활용, 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는 판단 또는 평가(채용, 대출심사 등), 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영, 국가기관등의 의사결정, 유아교육ㆍ초등교육 및 중등교육에서의 학생 평가, 그 밖에 사람의 생명ㆍ신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역

 

생성형 인공지능 : 입력한 데이터(「데이터 산업진흥 및 이용촉진에 관한 기본법」제2조제1호에 따른 데이터를 말함)의 구조와

                           특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템

-----

 

이후의 가이드라인, 시행령등을 참고하여 상세한 분류에 대한 규제와 촉진법을 알아보도록 하겠다.