영국 정부의 AI 사용, 투명성 부족으로 비난받다
최근 AI(인공지능) 기술 사용이 급증하고 있는 가운데, 영국 정부가 이를 적절히 관리하지 못하고 있다는 비난이 일고 있습니다. 특히, 어떠한 AI 시스템이 정부에서 사용되고 있는지에 대한 정보가 공개되지 않아, 공공부문이 "눈 가리고 아웅"하는 형국이라는 지적입니다.
AI 사용 현황
영국 정부에서는 승인된 알고리즘 시스템을 의무적으로 등록하도록 요구하고 있으나, 현재까지 단 한 개의 부처도 이 의무를 이행하지 않은 것으로 드러났습니다. 이는 충격적인 현실로, 이러한 투명성 결여가 공공의 신뢰를 해칠 위험이 있습니다. 특히, AI는 복지, 이민, 심지어 범죄 수사 과정에서도 사용되고 있으며, 이는 수백만 시민들의 삶에 직접적인 영향을 미치고 있습니다.
예를 들어, 영국의 복지부(Department for Work and Pensions)는 지난 가을부터 기본적인 AI 도구를 도입하여 복지 혜택 지침에 관한 질문을 할 수 있게 했습니다. 그러나 이러한 시스템의 사용에 대한 세부 사항은 거의 알려지지 않고 있습니다.
전문가의 경고
전문가들은 AI 사용에서 발생할 수 있는 여러 잠재적 문제를 경고하고 있습니다. 예를 들어, Ada Lovelace Institute의 연구에 따르면 문제가 발생할 경우, AI 시스템이 예기치 않게 비효율적이거나 차별적 결과를 초래할 수 있다는 것입니다. 이러한 부작용은 공공의 신뢰를 손상시키고, 결국 이 시스템들이 제공하는 이점이 퇴색될 수 있습니다.
Imogen Parker, 데이터 및 AI 연구 단체의 부국장은 “정부가 AI 시스템을 사용할 때 그 결과를 모니터링하고 이를 통해 배울 기회가 없어질 수 있다”고 경고했습니다. 이는 공공부문이 AI를 실행함에 있어 필요한 자가 점검 및 피드백 체계를 갖추지 못하고 있음을 의미합니다.
정부의 해결책은?
현재 정부는 AI 사용의 투명성을 높이기 위한 조치를 취하겠다고 약속했지만, 실질적으로 어떤 변화가 이루어질지는 두고 봐야 합니다. 과거에는 AI 기술을 통해 연간 380억 파운드의 비용 절감이 가능하다는 보고도 있었지만, 이러한 수익성만 강조될 뿐 정부의 구체적인 대응 방안은 미비합니다.
특히, 정부가 경찰에 제공한 얼굴 인식 소프트웨어와 같은 계약들은 논란거리가 되고 있습니다. 이러한 기술들이 개인의 사생활을 침해할 수 있다는 교육이 필요한 상황임에도 불구하고, 정부는 그 사용에 대한 명확한 입장을 취하지 않고 있습니다.
결론
AI 기술은 우리의 삶에 긍정적인 변화를 가져올 수 있지만, 그 동안의 부실한 관리와 투명성 부족은 큰 문제로 남아 있습니다. 정부가 자율적이고 윤리적인 AI 사용을 위해 구체적이고 실질적인 노력을 기울이지 않는다면, 영국 사회는 이 기술의 잠재력을 제대로 활용하지 못할 위험에 처할 수 있습니다.
정보와 기술의 발전이 이루어질수록, 그늘에 가려진 이슈들을 철저히 검토하고 해결하는 것이 우리 모두의 책임이라는 점을 잊지 말아야 하겠습니다.
