이탈리아 정부는 개인 데이터 보호를 위해 ChatGPT 규제

이탈리아 당국이 ChatGPT와 같은 인공지능 AI 모델의 개발에 대한 중단을 요구하는 공개 서한을 발표하는 등 인공지능 모델을 강력하게 규제하려는 시도가 이어지고 있습니다. 특히, 최신 기술인 생성형 인공지능 같은 모델이 GDPR을 위반할 가능성이 있다는 우려로 ChatGPT를 조사하고 있습니다.

 

     GDPR이란?

• 정의 : EU(유럽연합)가 2018년 5월 25일부터 시행하고 있는 개인정보보호 법령
• 적용대상 : EU내 사업장이 없더라도 EU를 대상으로 사업을 하는 경우까지 포함
• 위반 시, 과징금 등 행정처분이 부과 가능

 

      유럽연합이 제시한 7가지 데이터 보호 원칙

1. 합법성, 공정성 및 투명성 - 처리는 데이터 주체에게 합법적이고 공정하며 투명해야 합니다.
2. 목적 제한 — 데이터를 수집할 때 데이터 주체에게 명시적으로 지정된 적법한 목적을 위해 데이터를 처리해야 합니다.
3. 데이터 최소화 — 지정된 목적에 절대적으로 필요한 만큼의 데이터만 수집하고 처리해야 합니다.
4. 정확성 — 귀하는 개인 데이터를 정확하고 최신 상태로 유지해야 합니다.
5. 저장 제한 — 지정된 목적에 필요한 기간 동안만 개인 식별 데이터를 저장할 수 있습니다.
6. 무결성 및 기밀성 — 처리는 적절한 보안, 무결성 및 기밀성을 보장하는 방식(예: 암호화 사용)으로 수행되어야 합니다.
7. 책임 — 데이터 컨트롤러는 이러한 모든 원칙에 대한 GDPR 준수를 입증할 수 있는 책임이 있습니다.

 

 

---

 

     OpenAI의 ChatGPT가 위반한 내용 

이탈리아 정부는 특히 OpenAI가 미성년자가 접근할 수 있는 기술에 대한 제한 시스템을 갖추지 않았고, 사람들의 데이터를 불법적으로 처리할 우려가 있어 ChatGPT를 차단하라는 명령을 내렸습니다. 이 회사는 20일 이내에 명령에 응답해야 하며, GDPR을 위반할 경우 상당한 벌금이 부과될 수 있습니다.

 

EU의 데이터 보호 체제 위반에 대한 벌금은 연간 매출액의 최대 4% 또는 2천만 유로 중 더 큰 금액까지 증가할 수 있기 때문에 OpenAI는 명령에 따르지 않을 경우 큰 손해를 입을 수 있습니다.

 

GDPR은 EU 사용자의 개인 데이터 처리를 규제합니다. 대규모 언어 모델인 ChatGPT가 이러한 정보를 처리하고 있는 것으로 보입니다. 이 모델은 예를 들어 지역의 개인 이름을 주문형으로 생성할 수 있기 때문입니다. 이전 모델은 Reddit과 같은 포럼에서 스크랩한 데이터를 사용해 교육을 받았으며, GPT-4에 대한 교육 데이터에 대한 세부 정보는 아직 공개되지 않았습니다.

 

ChatGPT는 명명된 개인에 대해 완전히 잘못된 정보를 생성하기도 했습니다. 이는 모델의 훈련 데이터가 부족한 것이 원인일 수 있으며, GDPR 문제를 일으킬 가능성이 있습니다. 유럽연합은 이러한 문제에 대해 오류 수정 권리를 갖고 있으므로, OpenAI가 생성한 잘못된 정보를 수정하는 것이 가능한지 여부도 문제가 될 수 있습니다.

 

만일 OpenAI가 유럽 내 데이터를 불법적으로 처리한 경우, 이탈리아의 DPA는 데이터 삭제를 명령할 수 있지만 이로 인해 회사가 불법적으로 얻은 데이터에 대해 훈련된 모델을 재교육해야 하는지 여부에 대해서는 추가 논의가 필요합니다.

 

 

 

 

 

 

 

 

[마이크로소프트의 생성형 인공지능(AI)은 구글을 압도할 수 있을까] - (1) 인공지능의 보안 문제

 

[마이크로소프트의 생성형 인공지능(AI)은 구글을 압도할 수 있을까] - (2) 챗봇형 검색엔진의 광