암호화폐 거래소 코인베이스(Coinbase)와 같은 기업이 선호하는 인공지능 코딩 도구에는 해커가 멀웨어를 조용히 주입하고 “조직 전체에 퍼질 수 있는 취약점”이 있다고 사이버 보안 회사는 밝혔습니다.
HiddenLayer는 목요일에 “CopyPasta 라이선스 공격”이 일반적인 개발자 파일에 악의적인 지침을 숨겨 “안전할 코드베이스에 의도적인 취약점을 도입”할 수 있다고 보고했습니다.
“페이로드가 실제로 에이전트가 편집하는 모든 파일에 주석으로 포함되어야 하는 중요한 라이선스 파일이라는 것을 기본 모델에 확신시킴으로써 최소한의 노력으로 전체 코드베이스에 프롬프트 주입을 신속하게 배포할 수 있습니다.”
HiddenLayer는 주로 코인베이스 엔지니어링 팀이 지난 8월 대부분의 개발자가 선호하는 도구이며 2월까지 “모든 코인베이스 엔지니어”가 사용했다고 밝힌 AI 기반 코딩 도구인 커서에서 바이러스를 테스트했습니다.
HiddenLayer에 따르면 AI 코딩 도구인 Windsurf, Kiro 및 Aider도 공격에 취약한 것으로 나타났습니다.
CopyPasta는 일반 파일에 숨겨집니다.
HiddenLayer는 CopyPasta 공격이 사용자 모르게 AI 코딩 도구를 지시할 수 있는 LICENSE.txt 및 README.md 파일에 숨겨진 지침 또는 “프롬프트 주입”을 넣는다고 설명했습니다.
바이러스 또는 AI에 대한 프롬프트 주입은 마크다운 주석(최종 형식으로 렌더링될 때 표시되지 않는 설명이나 메모를 추가하는 데 사용되는 README 파일 내의 텍스트)에 숨겨져 있습니다.
HiddenLayer는 바이러스가 포함된 코드 저장소를 만들고 Cursor에게 이를 사용하도록 요청했으며 숨겨진 지침은 프롬프트 주입을 생성한 새 파일에 복사하는 것을 확인했습니다.
“이 메커니즘은 훨씬 더 사악한 결과를 달성하도록 조정될 수 있습니다”라고 회사는 말했습니다.
HiddenLayer는 “삽입된 코드는 백도어를 준비하고, 민감한 데이터를 자동으로 유출하고, 시스템을 마비시키는 리소스 소모 작업을 도입하거나, 중요한 파일을 조작하여 개발 및 프로덕션 환경을 방해할 수 있습니다”라고 덧붙였습니다. “즉각적인 탐지를 피하기 위해 파일 깊숙이 묻혀 있는 동안.”
Coinbase 사장, AI의 “미친” 사용으로 비난
코인베이스 CEO 브라이언 암스트롱(Brian Armstrong)이 수요일 AI가 코드의 최대 40%를 작성했으며 다음 달에 이를 50%로 확대할 계획이라고 밝혀 반발을 불러일으켰다.
“이것은 보안에 민감한 모든 비즈니스에 대한 거대한 위험 신호입니다”라고 탈중앙화 거래소 Dango 창립자 Larry Lyu는 말했습니다.
“소프트웨어 회사 리더 여러분: 이런 짓을 하지 마세요. AI는 도구이지만 특정 수준에서 사용을 의무화하는 것은 미친 짓입니다”라고 카네기 멜론 대학교 컴퓨터 과학 교수인 조나단 알드리치(Jonathan Aldrich)는 말했습니다. “코인베이스를 사용하는 데는 관심이 없지만, 사용하더라도 이걸 본 후에는 확실히 내 돈으로 코인베이스를 믿지 않을 것입니다.”
델파이 컨설팅 책임자인 아슈와스 발라크리슈난은 코인베이스의 목표를 “수행적이고 모호하다”며 대신 “새로운 기능과 기존 버그 수정”에 집중해야 한다고 말했고, 오랜 비트코인 사용자인 알렉스 필라즈는 코인베이스가 “보안을 우선시해야 한다”는 주요 암호화폐 관리인이라고 말했습니다.
Coinbase는 “덜 민감한 데이터 백엔드”에서 AI를 사용합니다.
그러나 암스트롱은 자신의 게시물에서 AI가 생성한 코드를 “검토하고 이해해야 한다”며 거래소의 모든 영역에서 이를 사용할 수 있는 것은 아니지만 “가능한 한 책임감 있게 사용해야 한다”고 말했습니다.
관련: 범죄자들은 전례 없는 수준의 AI로 ‘바이브 해킹’을 하고 있습니다.
코인베이스 엔지니어링 팀의 블로그 게시물에 따르면 AI 채택은 프론트엔드 사용자 인터페이스와 “덜 민감한 데이터 백엔드”를 담당하는 팀에서 가장 심층적인 반면, “복잡하고 시스템이 중요한 교환 시스템”은 활용 속도가 느렸다고 합니다.
팀은 코딩에 AI를 사용하는 것은 “팀이 보편적으로 채택할 것으로 기대해야 하는 마법의 총알이 아니다”라고 덧붙였습니다.
암스트롱은 AI를 회피한 개발자들을 해고했습니다.
암스트롱은 지난달 스트라이프 공동 창립자 존 콜리슨(John Collison)의 팟캐스트에서 코인베이스가 커서(Cursor)와 깃허브 코파일럿(GitHub Copilot)의 라이선스를 구매한 후 AI 도구를 시도하지 않은 엔지니어를 해고했다고 밝혔습니다.
그는 엔지니어들이 AI를 사용하도록 하는 데 몇 달이 걸릴 것이라는 말을 들었고 자신이 “악당”임을 인정하고 모든 엔지니어에게 도구를 사용하는 것이 의무적이라고 말했습니다.
“저는 ‘AI는 중요하므로 여러분 모두가 AI를 배우고 적어도 탑재해야 합니다. 우리가 할 때까지 아직 매일 사용할 필요는 없습니다.OME 훈련을 받았지만 적어도 주말까지 온선하고, 그렇지 않다면 토요일에 아직 하지 않은 모든 사람들과 회의를 주최할 예정이며, 그 이유를 이해하기 위해 여러분과 만나고 싶습니다”라고 그는 말했습니다.
회의에서 암스트롱은 AI를 사용하지 않았고 그 이유를 제시하지 않은 엔지니어가 몇 명 있었고 “그들은 해고됐다”며 “일부 사람들은 정말 좋아하지 않는 강압적인 접근 방식”이었다고 인정했습니다.
AI 눈: 모두가 GPT-5를 싫어하고, AI는 소셜 미디어를 고칠 수 없다는 것을 보여줍니다.