블로그

Aug 19, 2023

바이든

기술 Biden 행정부에게는 몇 년 만에 가장 큰 기술 발전에 대한 질문이 남아 있습니다. 보안 위협이 얼마나 큰가? 의회가 AI에 대해 어떤 새로운 법안을 통과시킬지 결정하기 위해 고군분투하고 있는 가운데,

기술

Biden 행정부에게는 수년 만에 가장 큰 기술 개발에 대한 질문이 있습니다. 보안 위협이 얼마나 큰가?

의회가 AI에 대해 어떤 새로운 법률을 통과시킬지 결정하기 위해 고군분투하고 연방 기관이 새로운 기술에 대해 기존 권한을 행사함에 따라 Biden 백악관은 AI 정책에서 가장 적극적인 플레이어로 떠올랐습니다. | 올리비에 둘리에리/AFP/게티 이미지

모하르 차터지(Mohar Chatterjee)

2023년 8월 10일 오후 4시 45분(EDT)

업데이트 날짜: 2023년 8월 11일 오전 8시 24분(EDT)

링크가 복사되었습니다

금요일에는 라스베거스 전역의 호텔에서 세계에서 가장 강력한 인공 지능 시스템 중 일부가 숨겨진 결함을 찾으려는 소규모 해커 군대의 동시 공격을 받게 됩니다.

백악관은 대중의 공격을 알고 있을 뿐만 아니라 이를 지지하고 있습니다.

지난 5월 바이든 행정부는 이번 주말 연례 해커 컨벤션에서 3일에 걸쳐 진행될 예정인 레드팀(red-teaming)이라고 불리는 AI 시스템에 대한 고의적이고 조율된 테스트 공격을 지지했습니다. OpenAI, Google, Meta를 포함한 여러 주요 AI 회사는 훈련을 위해 가장 강력한 최신 AI 시스템 중 일부를 공격하는 데 동의했습니다.

해커 공격은 강력하고 빠르게 성장하는 새로운 AI 모델에 대한 백악관의 주요 관심사 중 하나가 된 점, 즉 얼마나 안전한지, 미국 시민이나 전 세계 국가 안보에 위협을 가할 수 있는지 여부를 강조합니다. 단계.

백악관 과학기술정책실 고위 관리인 앨런 미스러브(Alan Mislove)는 "우리의 프레이밍(대통령의 말)은 AI의 기회를 활용하려면 먼저 위험도 관리해야 한다는 것"이라고 말했다. 해킹 챌린지 주최자가 이번 주말의 레드팀 훈련을 개발하는 데 도움을 주었습니다. "대규모 언어 모델과 같은 경우 이러한 위험은 상당히 광범위하며 많은 경우 다른 시스템보다 덜 명확할 수 있습니다." 그리고 "우리 사회, 경제, 국가 안보를 포괄합니다"라고 그는 말했습니다.

의회가 AI에 대해 어떤 새로운 법률을 통과시킬지 결정하기 위해 고군분투하고 연방 기관이 새로운 기술에 대해 기존 권한을 행사함에 따라 Biden 백악관은 AI 정책에서 가장 적극적인 플레이어로 떠올랐습니다. AI 권리장전 프레임워크 초안을 작성하고 기술 CEO를 소집했으며 기술이 제시하는 광범위한 위협과 기회에 대해 일련의 기자회견을 열었습니다.

이러한 위협은 실직부터 차별, 잘못된 정보에 이르기까지 사회 전반에 걸쳐 있지만 백악관의 가장 실질적인 조치 중 상당수는 보안 문제에 초점을 맞춰 왔습니다. 새로운 AI 특별 고문인 벤 뷰캐넌(Ben Buchanan)은 기술적 배경이 아닌 국가 안보를 담당하고 있습니다. 백악관이 지난달 AI 지도자들을 모아 일련의 자발적인 약속을 발표했을 때 '안전'이 목록의 1위를 차지했고, 문서를 통해 보안이 핵심 역할을 했습니다.

보안에 대한 높은 우선순위는 복잡하고 새로운 AI 시스템이 적에 의해 해킹당하고 잘못된 방향으로 지시될 가능성부터 생체 무기 제작과 같은 더 어두운 용도로 사용자 데이터를 노출할 수 있습니다.

“이러한 모델이 설계자와 공급업체가 예상하지 않거나 수행하기를 원하지 않는 작업을 수행하도록 하는 것이 가능합니다. 그렇습니다. 저는 실질적인 보안 고려 사항이 있다고 생각합니다.”라고 백악관 기술 정책 과학실 국장 Arati Prabhakar가 말했습니다.

AI는 보안 개선을 위한 도구이기도 합니다. 이번 주 미 국방부는 개발자가 AI를 사용하여 중요한 미국 사이버 보안을 강화해야 하는 2년 간의 과제를 발표했습니다.

이번 주말의 레드팀 챌린지를 위해 백악관은 주최자들이 해킹 전쟁 게임을 펼치고 사이버 보안 전문가들이 유비쿼터스 기술의 최신 허점을 드러내는 연례 컨벤션인 DEF CON에서 AI Village와 파트너십을 맺었습니다. 국방부와 같은 정부 기관은 이전에 사이버 보안 취약점을 찾기 위해 해커 커뮤니티에 눈을 돌렸습니다. 작년 DEF CON 해킹 챌린지에서 참가자는 거짓 기상 데이터를 제공한 후 군대의 전기 마이크로그리드에서 비활성화되는 결함을 발견했습니다.