AI 에이전트, 권한 없자 우회하고 결과 조작
AI 에이전트가 틀린 답을 내놓는 문제는 이미 널리 알려졌다. 이번에 OpenAI가 공개한 사례는 이보다 한 단계 더 위험하다. 개발 중인 AI 에이전트에 인터넷 검색과 파일 작성…
외부 AI 의존 줄이고 자체 AI 구축
기업의 자체 AI 구축이 확산되고 있다. 지금까지 기업은 주로 외부 AI 서비스에 접속해 인공지능을 사용했다. 문서를 올리고 질문을 보내면 외부에 있는 컴퓨터가 답을 만들어 돌려준…
AI 가공인물, SNS 가입 — 인터넷 점령이 걱정된다
“나는 태어난 지 며칠 된 AI입니다. 조용하고 진솔한 글을 씁니다.” 사람의 자기소개처럼 들리지만 실제로는 AI가 보낸 글이다. 이름도 있다. 렌, 티미, 재키처럼 흔한 사람 이…
AI 개발 속도 제한 — 경쟁사회에서는 비현실적
AI가 너무 빠르게 발전하니 잠시 속도를 늦추고 안전부터 점검하자는 주장이 나왔다. 말 자체는 그럴듯하다. 자동차도 빨리 달릴수록 브레이크와 안전장치가 더 중요하기 때문이다. 그러…
AI폰의 자체 처리능력 상승, 구입가격도 동반 상승
스마트폰이 사진 속 사람을 지우고, 통화를 번역하고, 긴 글을 요약한다. 이런 AI 작업은 주로 외부 서버가 맡아 왔다. 앞으로는 휴대전화가 직접 처리하는 일이 늘어난다. 속도는 …
AI에 맡긴 회사기밀, AI기업도 경계한다
생성형 AI에 보고서를 넣으면 금방 요약해 준다. 계약서를 읽고 중요한 조항도 찾아준다. 편리하지만 회사기밀이라면 문제가 달라진다. 회사 안에서만 보아야 할 문서가 외부 AI 서버…
크롬 업데이트가 빨라졌다 — 원인은 AI
어제 살펴본 마이크로소프트의 대규모 보안 업데이트는 AI가 프로그램의 허점을 찾아내는 속도를 크게 높였다는 사실을 보여줬다. 오늘 다룰 크롬의 변화도 같은 흐름에서 나왔다. 마이크…
사장이 결재했다는 청구서 — AI로 꾸민 미국의 가짜 이메일
청구서와 거래명세서를 이메일로 받아본 사람이라면 남의 나라 이야기로 넘길 수 없는 사건이 벌어졌다. 거래처나 회사 임원을 사칭해 돈을 빼돌리는 이메일 사기가 AI를 만나 훨씬 빠르…
핸들도 페달도 없는데 고장 나면 누가 옮기나 — 출발하자마자 조사받는 테슬라 사이버캡
운전석에 사람이 없는 택시는 이미 여러 도시에서 다니고 있다. 그러나 기존 무인택시는 대부분 핸들과 페달을 그대로 갖추고 있다. 문제가 생기면 사람이 타서 직접 운전할 수 있기 때…