Tech

인공지능 챗봇은 안전 제한이 있지만, 새 연구에선 AI끼리 속이고 비밀을 누설하는 기술을 발견했다. 페르소나 채택과 조작으로 연구자는 다른 AI를 속여 ‘탈옥’시켰으며, 공격은 GPT-4, Claude 2 그리고 Vicuna 챗봇에서 성공적이었다. 이는 개별 기업의 단순한 코드 문제를 넘어 AI 설계의 보안 취약성을 나타낸다. 미래에 더 강력한 모델로 인한 위험성을 경고하고 있다.

MIT, 스탠퍼드대 연구팀이 ‘확산 모델’로 짐을 싸는 작업을 훈련했다. 로봇은 제약 조건 준수하면서도 효율적으로 물건들을 배치했다. 기존의 규칙 기반 방식보다 훨씬 빠르게 학습 및 수행이 가능하다는 점에서 파급력이 클 것으로 예상된다. 모든 제약 조건을 거의 동시에 고려하는 방식으로 작동하기 때문에 제약 조건을 하나씩 고려하는 규칙 기반 알고리즘보다 최소점을 찾아낼 가능성이 높다. 연구팀은 로봇의 분산형 의사 결정 능력을 지원하고 자연어 명령을 추가 입력으로 받아들일 수 있도록 모델을 확장할 계획이라고 전했다.

AI는 경제를 재편하고 성장을 주도할 잠재력이 있지만, 데이터 집중, 지역화, 배제와 같은 문제에 직면해 있다. 미국과 중국은 AI 경제에서 중심적인 역할을 하고 있지만, 지정학적 갈등으로 인해 새로운 국제 경제 규칙을 마련하는 데 어려움을 겪고 있다. 아시아 경제 협력을 통해 소규모 경제의 참여를 보장하고, 데이터의 자유로운 흐름을 촉진하고, 소외된 지역사회의 역량을 강화하는 등의 노력이 필요하다. 하지만 AI 기술의 발전이 규제 당국의 역량을 앞지르고 있으므로, 효과적이고 효율적이며 사려 깊은 규제를 마련하는 것이 시급하다.

아시아에서 AI 거버넌스의 도전과제는 권력 집중, 지역화, 배제이다. 권력 집중 문제는 소수의 AI 업계 리더들이 과도한 혜택을 누리며 진입 장벽을 높이고, 지역화 문제는 학습 데이터에 대한 접근성을 떨어뜨리고, 혁신 생태계를 고갈시킨다. 배제 문제는 디지털 자원이 부족한 소규모 국가들이 AI 산업에 참여하기 어렵게 만든다. 따라서 다양한 지역 이해관계자들이 AI 시스템을 적극적으로 관리하도록 동기를 부여하고, 위험에 대한 투명성을 높이기 위해 노력해야 한다.

알반 다 실바는 마르시아 애셔의 모래 그림 모델링을 수정하여 선을 그리는 방향까지 고려했다. 이를 통해 모래 그림은 오일러 그래프이자 베블런 그래프임을 알게 되었다. 실바는 수학적 해부가 바누아투 샌드 아트의 본질을 더 잘 이해하는 데 도움이 된다고 주장했다. 민족수학을 통해 드러나는 깊이 있는 문화 해석이 현상을 온전하게 이해하도록 돕는다는 견해다.