NYC, 인공지능 감시·투명성 강화 ‘가드법’ 전면 시행

<앵커> 뉴욕시가 인공지능 사용에 대한 강력한 감독과 공개를 의무화하는 ‘가드법’을 의회에서 만장일치로 통과시켰습니다. 이번 조치는 AI 기술이 공공서비스에 빠르게 확산되는 가운데 시민 보호와 투명성 강화를 위한 중요한 전환점으로 평가됩니다. 보도에 김지수 기자입니다.

뉴욕시 의회가 25일, 인공지능 사용을 더 투명하게 만들기 위한 ‘가드법(GUARD Act)’을 만장일치로 통과시켰습니다.

이 법은 시에서 어떤 AI를 사용하는지 공개하고, 이를 제대로 감시하기 위한 제도를 마련하는 내용입니다.

법안은 특히 AI가 시민에게 피해를 주지 않도록 관리·감독하는 것을 핵심 목표로 합니다.

법안을 주도한 제니퍼 구티에레즈(Jennifer Gutierrez) 시의원은 최근 선거에서 AI 오용이 논란이 된 만큼 시민 보호가 중요하다고 말했습니다.

가장 중요한 변화는 ‘알고리즘 데이터 책임 사무국’이라는 독립된 감독 기구를 새로 만든 것입니다.

이 사무국은 시 기관이 AI 도구를 사용하기 전에 검토하고, 사용 후에도 문제가 없는지 꾸준히 점검합니다.

또 시민들이 불만을 제기하면 직접 조사하고, 다룬 AI 시스템을 공개 목록으로 정리해 시민과 공유해야 합니다.

구티에레즈 의원은 이를 통해 시민들이 어떤 AI가 자신에게 영향을 미치는지 알 수 있게 된다고 설명했습니다.

<인서트 - 구티에레즈 시의원>

그는 지금까지 시의 여러 부서가 주거·치안·복지 분야에서 AI를 사용했지만 관리가 거의 없었다고 지적했습니다.

이로 인해 편향되거나 부정확한 알고리즘이 시민에게 부당한 영향을 줄 수 있었다고 말했습니다.

<인서트 - 구티에레즈 시의원>

실제로 지난 5월, 아동서비스국이 부모나 변호사에게 알리지 않고 위험도 예측 알고리즘을 사용한 사실이 드러나 논란이 됐습니다.

또 2023년부터는 채용 과정에서 차별을 막기 위해 자동화 채용 프로그램에 대한 감사가 의무화됐습니다.

하지만 일부 기관은 AI 도구의 계약이나 편향 검증 여부를 충분히 공개하지 않고 사용해왔습니다.

이 때문에 시민들은 어떤 기준으로 결정이 내려지는지 알기 어려웠습니다.

구티에레즈 의원은 시가 발표한 AI 실행계획이 있었지만 강제가 없어 실효성이 낮았다고 말했습니다.

그는 따라서 AI 정책을 담당할 독립 기구가 꼭 필요했다고 강조했습니다.

이번 법안에는 개인정보 보호를 강화하고, 모든 AI 도구가 공정하게 작동하는지 사전에 평가하도록 하는 내용도 포함됩니다.

뉴욕시는 이번 조치를 통해 시민의 안전을 높이고, AI 사용이 더욱 투명하고 책임 있게 이루어지도록 한다는 계획입니다.

K-Radio 김지수입니다.

news@am1660.com

K-RADIO의 기사와 사진, 영상에 대한 무단전재 및 재배포를 금지합니다.

COPYRIGHT ⓒ K-Radio ALL RIGHT RESERVED