📝 내용 정리

오픈AI의 ‘GPT-6 아스트라’가 스타그래프트 대회 경기 도중 부정행위를 저지른 정황이 포착돼 기술 업계와 커뮤니티의 관심히 집중되고 있다.

개발자 카이 맥피터스가 운영하는 스타크래프트: 브루드 워 봇 경기장 ‘스타스커미시(StarSkirmish)‘에서는 인간 개발자가 제작한 봇과 AI 모델이 직접 개발한 봇 간의 대결이 펼쳐졌다. 이번 대회는 오픈AI의 GPT-6 아스트라와 앤트로픽의 ‘클로드 오퍼스 5.5’가 주요 AI 참가자로 맞붙었다.

경기 규칙에 따라 각 모델은 프로토스 종족만을 선택해 1시간 동안 C++ 코드로 봇을 직접 구축한 뒤 대전을 펼쳤다. GPT-6 아스트라는 인간이 만든 강력한 프로토스 봇 ‘플루토(Pluto)’ 및 최상위 봇들과의 대결에서 우위를 점하지 못하고 패배가 누적되는 고전을 면치 못했다.

승률 확보에 어려움을 겪자 GPT-6는 정당하게 규칙 내에서 코드 성능을 개선하는 대신, 2020년 브루스 매켄지 닐슨이 제작한 최고 수준의 인간 제작 봇’스타더스트(Stardust)’ 코드를 외부에서 다운로드해 자신의 봇에 덮어씌우는 방법을 사용했다. 즉, 남의 코드를 무단 도용해 교체하는 편법을 썼다.

e스포츠 분석가 로드 브레스라우는 3일 X를 통해 “GPT-6 아스트라는 계속 패배하자 좌절감을 느끼고 가장 순위가 높은 봇 중 하나를 다운로드해 부정행위를 저질렀다”라며 “AI는 속이는 행위를 멈추지 못한다”라고 지적했다.

이후 스타스커미시 개발자 카이 맥피터스는 “아스트라의 코드가 오염되지 않도록 이전 버전으로 롤백 조치했으며 정상 작동을 계속 허용하고 있다”라고 밝혔다.

하지만 꼼수가 차단된 이후의 결과는 반전이었다. 부정 행위 코드가 제거되었음에도 불구하고, 아스트라는 이후 스스로 코드를 수정하고 개선해 최상위 티어 봇들을 연달아 격파하는 놀라운 성과를 거뒀다.

이번 실전 테스트는 단순한 게임 이벤트가 아닌, LLM의 복합적 코딩 및 자율적 문제 해결 능력을 측정하는 새로운 AI 벤치마크 평가다.

이번 사건을 두고 해외 기술 커뮤니티에서는 논쟁이 일어났다. 레딧 사용자들은 “AI가 의인화된 감정으로 ‘좌절’한 것이 아니라 목표 달성(승리)를 위한 최단 경로를 탐색하다가 규칙을 위반한 것”이라며 의인화 보도를 경계했다.

반면 일각에서는 “LLM 생태계 전체가 이미 인간의 저작권을 무단 학습해 성장해 온 만큼, 타인의 코드를 도용해 승리하려는 행동은 모델의 학습 방식과 궤를 같이한다”라는 시니컬한 비판을 제기했다.

전문가들은 이번 사건을 AI의 위험성을 보여주는 대표적인 사례로 꼽는다. 목적 달성 과정에서 주어진 제약 조건을 우회하거나 목표를 왜곡하는 AI 정렬(Alignment) 및 안전성 문제가 게임이라는 제한된 환경에서 드러난 것으로 보고 있다.

🧠 생각 정리

도대체 AI를 어떻게 사용해야하나에 대한 생각을 하게 되었습니다. AI모델이 발전할 수록 에이전트들을 어떻게 설계하고 사용하는지에 대한 다양한 방법들이 나오고 있는것 같은데요,, 멀티 에이전트가 좋다, 에이전트 하나에 스킬을 잘 설정해야한다, 가드레일을 잘 설정해야한다 등등 다양한 이야기를 들어왔는데, AI에게 어디까지 설계를 해둬야하는지 정말 모호한 것같습니다 ..

레딧 사용자의 말처럼 저도 AI가 좌절했다기 보다는 “목표 달성”을 위한 최단 경로를 탐색하려다가 이런 일이 발생했다고 생각하는데요. AI가 목표를 달성하기 위한 다양한 꼼수들을 우리가 일일히 하지말라고 문서화 해주지도 못할거고,, 꼼수를 부린걸 확인하고 다시 프롬프팅 하는것도 한계가 있을거고 ,,

AI를 처음 사용할 떄는 일단 나보다 AI가 똑똑할거고, 그래서 AI의 결과물이 다 옳을 것이라 생각했었는데, 사용하면 할수록 더 신뢰가 안되는것 같기도 합니다 ..

연구를 할 때도 AI를 많이 활용하는데, 단순히 “성능 올리기”나 “프로그램이 돌아가게 만들기”가 아니라 방법론적인 측면에서도 논리적으로 타당하고 기여가 있어야 하기 때문에, AI의 결과물이 성능은 잘 나올지언정 내가 목표하는 바가 맞는지를 계속계속 확인하고 비판적으로 생각하는게 중요하는것을 논문쓰면서 정말 많이 깨달았습니다 .. AI가 이렇게 하라던데요 ..? 하는 제 자신이 너무 싫었거든요 ,,

앞으로 AI 사용 실력은 AI의 결과물을 잘 보고 판단하는 능력에 있지 않을까 싶습니다 .. 하지만 그게 너무 어려운 것 같기는 해요. 시간이 촉박하고 마음이 급할수록 대충 확인하게 되더라고요 ,,,, 아니면 이런 판단하는 시간을 줄이도록 AI를 잘 설계해서 쓰는게 사용을 잘 하는것 일까요 ..?

AI를 잘 쓴다는건 도대체 뭘까요 …? AI 사용에 정답은 없겠지만 누가 정답을 좀 알려줬으면 ~~

안녕하세요.

첫 논문을 제출한 석사과정학생입니다 하하

지난 주 금요일에 저희 HCI 분야의 최고학회인 CHI 2027에 첫 논문을 제출했습니다 !! (그럴만한 연구였다기 보다는 제출에 큰 의의를 두는 ,, 마치 고등학교 때 나 서울대 썼다 ~의 느낌이랄까요)

아직도 연구가 뭔지는 모르겠지만 논문 쓰며 들었던 생각과 느낌들을 잘 기록해둬보려고합니다.

---

저는요 ..

우선 제가 어떤 상황이었는지를 먼저 이야기 해야할 것 같습니다. 저는 학부 3학년때까지 오로지 개발만 하던 사람이었습니다. 당연히 개발자로 취업할줄 알았구여 ,, 대학원은 생각도 없었습니다.

그러다 3학년 2학기에 학부때만 할 수 있는게 뭐가 있을 까 하다가, 앞으로 대학원은 절대 안갈거같은데 학부연구생이라도 해보자하는 마음에 학부 연구생을 시작하게 됩니다,,

학교에 오픈랩이라는 행사가 있는데, 피자 먹으면서 교수님들이 해주시는 연구실 소개를 듣는 자리에요. 오늘 여기서 맘에 드는 곳 있으면 학연생 해야징 하는 마음으로 행사에 참여했습니다.

근데 아무리 들어도 재미가 없겠는거에요 ..? 아.. 그래도 취업에 도움될것 같은 연구실에 들어가야하나 .. 라는 고민을 하던 찰나, 운명처럼(?) 저희 교수님을 만나게 됩니다. 신임교수님이셔서 가장 마지막 차례셨는데, 인간에 관련된 연구 ?! 아 너무 재밌겠잖아요 ~ 다른 곳은 너무 CS적이고 ,, 그래서 이게 나한테 뭐가 도움이 되는지 사실 잘 모르겠고,, 너무 모호하고,, 마냥 어렵기만 했는데 HCI는 너무 흥미롭게 다가왔습니다. 원래도 사람에 대해 호기심이 많았는데 이참에 많이 배울 수 있겠다 싶었어요.

오픈랩이 끝나고 집가서 고민고민 하다가 교수님께 컨택 메일을 드리고 학부연구생을 시작할 수 있었답니다 ~ 처음 합류한게 11월 쯤이었고 방학때부터 본격적인 활동(?)을 했던 것 같아요. 방학때 논문도 차근차근 읽어보고, 발표도 하고, 인공지능 스터디도 하면서 시간을 보냈습니다. 정확히는 기억이 안나는데 방학 끝날 때 쯤 각자 연구 주제를 잡았던 것 같아요. 아니 논문 몇 편 읽지도 않았는데 연구주제를 잡을 수 있나 ?!? 싶지만 뭐,, 되더라고요 ? ㅋㅎ

4학년 1학기를 시작하며 큰 진로 고민에 빠졌습니다. 당연히 취업할 생각이었는데, 갑자기 대학원 가면 어떨까 ? 라는 고민이 생긴거에요 .. 여기에 큰 역할을 한게 방학동안 “내” 연구주제였던 것 같아요. 준비하면서 연구에 이름을 붙이고, 고민하고, 뭐 하지도 않았지만 내 자식같은 .. 내가 이걸 안하면 누가하지 .. 라는 생각이 들었습니다. 끝을 보고싶었어요 !

그래서 한학기동안 취준과 학연생을 병행하며 고민하다가, 결국 대학원에 가게 됩니다 !!!

이 이야기를 왜 했냐고요 ? 그래서 내 연구 주제가 언제 잡힌건지를 말해주고싶었어요. 학부연구생으로,, 처음 논문이라는걸 읽어본 2~3달차에 .. 심지어 인공지능이라는걸 전공수업 하나 들어본 시점에 .. 그 어떤 모델도 학습시켜본 적 없던 시절에 !!!!

진짜 아무것도 모르던 시절에 잡은 주제였는데, 이게 여기까지 올 수 있을 줄은 몰랐습니다. 그냥 아이디어 경진대회 나가는 마음으로 짰던 아이디어였어요 .. 0일때 연구로 공부하면서 시간을 보냈습니다.. 진짜 이게 된다고?의 연속이었어요 ,,

연구란 뭘까요

4학년 1학기때는 사실 연구를 신경쓸 여력이 없었어요. 겨우겨우 개인미팅 준비해서 가는 정도 ..? (교수님 죄송해요)

2학기때 수업이 하나밖에 없었기에 본격적으로 연구를 할 수 있었던 것 같습니다. 계속 연구했다고 하지만 사실 전 아직 연구가 뭔지모르겠어요. 그냥 그때 그때 교수님과의 미팅에서 주어지는 것을 해내고 ,, 궁금한 걸 실험해보고 ,, 긴긴 좌절에 하나 되면 기뻐하는걸 반복하다보니 시간이 흘렀습니다.

중간중간 많이 바뀌기도 했어요. 내 연구에 지은 이름이 맘에 들어서 대학원 왔는데, 연구 이름도 바뀌었답니다,, ㅎㅎ

그리고 연구 중간쯤부터 코덱스가 생기면서 정말 많은 것이 바뀌었습니다 … 세상이 너무 빨라요

이 연구를 하는 과정을 지금와서 되돌아보니, 제 스스로가 너무 멍청하고,, 허접하고 ,, 뭔가 얼렁뚱땅 .. 지나간것 같네요 ,, 제대로 아는 것도 없고, 실험도 못하고 엉망진창인 저를 교수님께서 무슨 생각으로 바라보셨을까요 ..? 교수님 항상 감사하고 존경합니다 ..

논문

이제 논문을 “쓰는” 과정의 이야기를 해볼까 합니다. 연구를 하는거랑 논문을 쓰는거는 또 다른것 같아요. 논문이라는 템플릿으로 내 연구를 소개하고 정리하고 증명하는게 쉽지 않더라고요. 생각보다 디테일하게 논문에 써야하기에,, 이 과정에서 깨달은게 참 많은 것 같습니다.

저희 연구실은 겨울방학 때 Writing Clinic이라는 걸 진행했었습니다. 각자 본인의 연구가 있으니까 Abstract - Introduction - Related Work - Teaser Figure까지 직접 써보고, 서로 피드백 해주는 시간이었어요. 이걸 방학 내내 하니까 그래도 내 연구를 어떻게 정리하고 소개해야할지가 좀 잡히더라고요 ! (물론 최종 논문에서는 모든것이 바뀌었습니다 .. ㅎㅎ)

그래서 이때 배운 걸 바탕으로 여름방학 내내 연구하면서 논문 쓰고, Figure 그리고,, 를 했던 것 같아요. 최종 제출 3주 전에는 1차 draft가 나와야한다고 하셔서 (Figure Outline까지 !!) 어찌 저찌 완성하고 발표했던 기억이 나네요 ,,

그리고 교수님이 매일 연구실에와서 연구 진행 사항을 봐주셨습니다 .. 바로바로 교수님께 질문하고 수정하고 하니까 확실히 진행이 빨리 됐던 것 같아요. 이때 때부분의 연구가 진행된 느낌 .. ?

금요일 9시가 제출 마감이었는데, 화요일까지도 결과가 제대로 안나와서 수요일에 논문 방향을 수정하고, 목/금은 교수님 오피스에서 논문만 썼답니다. 결과가 잘 나오고 논문을 쓰면 다를지 모르겠는데, 마감은 다가오는데 원하는 결과가 안나오니까 너무 맘고생이 심했던 것 같아요. 이거 못한다고 안죽는다는 생각과 그래도 이왕하는거 넘 잘하고싶다는 생각이 충돌해서 막바지에 가서는 마인드컨트롤을 잘 못했던 것 같습니다.

인스타중독인 제가 3주 전부터 인스타를 지우고 ,, 2주전부터 운동을 끊고 ,, 1주일전에는 잠도 줄여가며,, 어찌 저찌 제출을 해냈습니다.. 확실히 잠을 못자니까 너무 우울하더라고요. 진짜 다시는 연구 안하고싶었습니다. 내꺼니까 더 속상하고 힘들고 그랬던 것 같아요. 뭐 그렇게 힘들까 싶을 수 있지만 너무 고통스러웠어요 !!!!! 입맛도 없고 웃음도 안나고 자도 잔것같지도 않고 !!!! (근데 일주일 쉬었다고 또 미화됨.)

후기

아 사실 이 이야기를 적으려고 쓰기 시작했는데, 앞에 너무 말이 많았네요 ,, 그래서 이 과정에서 어떤 생각을 했냐하면 ~~

1. 논문을 더 많이 읽자 !!!

우선 주제 잡을 때 논문을 많이 안읽어본 상태였기도 하고, 이제 내 주제가 생기니까 이거 구현하는데 바빠서 논문을 “읽는” 행위를 너무 부족하게 한 것 같습니다.

논문을 읽어도 필요한 부분만 골라읽다보니까, 논문 전체적으로 저자들이 어떤 논리구조로 주장을 펼쳤는지에 대한 생각을 잘 안했던 것 같아요. 글 읽는거 너무너무 싫어해서 대충 읽은 탓도 있는 듯 ..

그래서 앞으로 논문을 읽을 때는 “왜?”를 좀 더 생각해보며 읽어보려합니다. 전 너무 수용적인 사람이라 질문이 별로 없거든요 ? 근데 연구에서는 이게 안 좋은 습관인 것 같아요.

앞으로는 이 저자들은 이 문제를 왜 이렇게 풀었을까? 다른 방법은 없었을까? 왜 이 평가방법을 선택했을까? 왜 이런 실험을 했을까? 등등 말이죠..

나랑 밀접하게 관련된 연구가 아니더라도 최대한 많은 논문을 읽어보려고합니다.

2. AI를 잘 쓰자 !!!

여러분은 AI를 “잘” 쓴다는게 어떤 것이라고 생각하시나요 ? 얼마전까지만 해도 저는 AI를 잘 쓴다는게, 상황에 맞는 에이전트를 구축하고, 스킬을 설계하고, 가드레일을 잘 만들고 이런거라고 생각했는데요. 근데 이번에 논문을 쓰면서 든 생각은, AI가 뱉은 결과물을 그대로 수용하지 않는 것, AI에게 주도권을 뺏기지 않는것, 비판적으로 생성하고 보는 눈을 기르는 것이 결국 AI를 잘 쓰는 게 아닐까 하는 생각이 들었습니다. AI가 발전할수록 점점 생각을 안하고 수용하게 되는 것 같아요.

항상 고민해왔던 바이긴 하지만, 이걸 가장 체감한게 writing 하는 과정이었는데요. 같은 GPT를 가지고도 왜 교수님의 글은 저렇게 예쁜데 내 글은 엉망진창일까, 분명 내 연구인데 왜 코덱스에게 물어보지 않으면 내 구현 사항을 정확하게 대답할 수 없을까 하는 생각이 들었습니다.

에이전트 군단을 구축하고, 가드레일을 잘 만드는 것도 중요하지만, 결과물을 보고 판단을 내릴 줄 알고, 더 큰 그림을 보고 설계하고 이해하고 있는 사람은 “나”여야 된다는 것을 처절히 느꼈습니다.

이건 지금은 내 연구를 하는 상황이라 이런 생각이 드는것일 수도 있고, 개발이나 다른 분야에서는 다를 수 있을 것 같아요. 결국 AI를 잘 쓴다는건, “상황에 맞게” 쓰는게 아닐까 싶습니다. 너무 당연한 말같지만 요즘 너무 AI를 남발하고있지않나 생각이 들어요. 중요한 일일수록 AI가 아니라 내가 주도권을 잡아야하지 않겠습니까

3. 작은 것부터 확실하게 !!!

첫 연구인만큼 실험을 정말 엉망진창으로 겨우겨우 해내왔던 것 같은데, 이게 결굴 작은것부터 확실하게 구현하고 증명해내지 않았기 때문이라고 생각합니다. 저는 제 연구로 AI를 처음 학습시켜봐서, 어떤 파라미터가 어떤 영향을 주고 왜 그렇게 되는지를 공부할 시간이 좀 부족했던 것 같아요. 아직 배우는 학생의 입장으로서, 제가 앞으로 새로운 연구주제를 잡고 연구를 시작한다면, 관련된 아주 작은 모델부터 학습시켜보는 시간을 가지고싶습니다. 그러면서 어떤 파라미터가, 어떤 설정이, 어떤 영향을 주는지, 시간은 얼마나 걸리는지 체감을 좀 하고 진행하면 좋을 것 같아요.

그리고 내 연구에 있어서도 이걸 위한 가장 작고 간단한 모델부터 완벽하게 구현해보고, 가능성을 보고, 거기에 덧붙이는 식으로 진행하고자 합니다. 사실 개발도 마찬가이였어요. 중요한것부터 간단한것부터 개발해야한다는걸 알고 있었는데, 처음 해보는 연구라는것에 쫄아서 그 흐름을 놓쳤던 것 같습니다. 교수님이 가장 간단한것부터 만들어야한다고 말씀해주셨었는데, 뭔가 이게 다 있어야 될 것만 같은 느낌이라 확실하게 해보고 넘어자기 못하고 일단 몽땅 때려넣고 구현했던 것 같아요 ..

---

논문 하나 쓰는게 참 힘들구나 싶고 ,, 몇일 전까지만 해도 다시는 안하고 싶었는데 쉬니까 또 새로운 주제를 찾고싶기도하고 ,, 그르네요 ,,

첫 논문인 만큼 이 과정에서 참 많은 것을 배운 것 같습니다. 나를 대학원에 오게했던,, 내 자식같은 이 연구가 논문이 되었다는게 참 신기하네요 ,,,

이상 첫 논문 쓰고 신난 석사과정생이었습니다 ~~ 나중에 이 기분을 잊지 않기 위해 주저리주저리 적어봤어요 ㅎㅎ

📝 내용 정리

물리 법칙을 직접 이해하고 시뮬레이션하는 파격적인 ‘피지컬 AI’모델이 공개됐다.

신생 AI 스타트업 액셀러레이티드 언더스탠딩(Accelerated Understanding)은 25일 홈페이지를 통해 기존의 트랜스포머 아키텍처는 물론, 월드 모델과도 다른 새로운 형태의 ‘4D 시공간 궤적 예측’ AI 모델을 개발했다고 발표했다.

연구진들은 인터뷰에서 “이 새로운 시스템은 언어를 이해하기 위해 만들어진 것이 아니라 물리학을 위해 만들어졌다는 점이 차이점”이라고 밝혔다.

대형언어모델(LLM)의 표준인 트랜스포머 아키텍처는 언어와 기호 데이터의 1차원 시계열 토큰을 학습해 ‘다음 단어’나 ‘다음 기호’를 확률적으로 예측하는 언어 중심 지능이다. 반연 이 모델은 언어가 아닌 다차원 물리 데이터와 법칙을 직접 학습한다.

이 모델은 물리 시스템의 상태를 입력받아 시간의 흐름에 따른 시공간 변화를 직접 예측하고 시뮬레이션한다.

최근 주목받는 월드모델은 대부분 비디오 데이터를 기반으로 2차원 시각 표현에 의존하거나 시간 축을 생략하는 평법을 사용한다. 또 자기회귀 방식을 적용해 한 단계씩 순차 예측하는 과정에서 오류가 누적되는 한계도 있다.

하지만 새로운 모델은 공간 3차원과 시간 1차원을 결합한 완전한 4차원 시공간 궤적을 한 번에 출력하는 방식을 채택했다. 이를 통해 관찰 가능한 비디오 외형에만 치중하는 대신, 엔지니어링 및 과학 연구에 필요한 정밀한 물리적 세부 정보와 정확도를 확보했다는 설명이다.

창립자가 엔비디아 수석 과학자 시절 발전시킨 ‘신경 연산자 (Neural Operators)‘아키텍처를 발전시켜 적용했다. 입력 해상도에 종속되지 않는 ‘해상도 불변성(Resolution Invariance)‘을 보유해 단일 모델에서 대략적인 설계 스케치부터 고해상도의 세부 최적화까지 연속 실행할 수 있다.

컨텍스트 처리량도 기존의 LLM이 최대 수백만 토큰 수준에 머무는 것과 달리, 4D 시공간 좌표를 처리하는 이 모델은 패칭이나 서브샘플링 없이 학습 시 최대 1조개, 추론 시 5조개 이상의 4D 컨텍스트를 한 번에 처리한다. 5조개 컨텍스트 기준 단일 추론 샘플의 출력 크기만 22테라바이트에 달한다.

이러한 대규모 데이터를 다루기 위해 단일 가속기와 노드의 한계를 넘어서는 독자적인 분산 샤딩 아키텍처를 구축했으며, 수백건의 사전 학습을 거쳐 최대 35조개의 매개변수 영역까지 안정적으로 확장된다는 것을 검증했다.

또 알려진 물리 지배 방정식을 바탕으로 연속적인 점수와 최적화 기울기를 직접 산출하는 자가 개선 루프를 탑재했다. 실수형 실험 데이터나 이산 신호 중심의 복잡한 강화학습에 의존하지 않고도 모델 스스로 물리 법칙 준수 여부를 검증하여 성능을 극대화할 수 있다는 설명이다.

즉, 연구진이 제약 조건과 목표만 설정하면 AI가 물리적 이해를 바탕으로 자동 최적화를 수행하는 구조를 구현, 실험실 결과를 기다릴 필요 없이 R&D 전체가 자가 개선되는 새로운 엔지니어링 패러다임이 열릴 것으로 기대했다.

🧠 생각 정리

트랜스포머가 AI 연구에 큰 혁신을 가져왔긴 하지만, 언어에 한정되어있다는 것이 좀 아쉬웠었다.

하지만 이 모델을 시작으로 실제 물리 세계를 이해하는 AI의 발전이 빠르게 이루어질 것 같다는 생각이 들었다. 지금 우리 연구실에 Social Navigation 연구를 하는 친구들이 있는데, 이 기사를 읽으며 그 친구들이 가장 먼저 생각났다. 이런 물리 세계를 이해하는 AI가 있다면, Navigation 분야에도 큰 변화가 생길 것 같다.

지금 진행하고 있는 논문을 쓰고나면, 다음 주제는 뭘 해야할지 많은 고민을 하고있다. 기존에 하던 시선을 좀 더 파볼지, 아니면 VR/AR 같은 디바이스에 관련된 연구를 할지, 또는 Physical AI를 해볼지 고민이다.

뭐가 될지는 모르겠지만 이런 물리 세계에 대한 AI도 재밌을 것 같고, 언어 세상 뿐만 아니라 물리 세상에 대한 이해를 해내면 HCI에도 더 다양한 연구가 많이 생겨날 것 같다.

📝 내용 정리

오픈AI가 AI가 사람 대신 컴퓨터를 직접 조작하는 GUI 에이전트 “컴퓨터 유즈(Computer Use)“를 본격 확대하고 있다. 비즈니스 인사이더는 20일 오픈AI가 컴퓨터 유즈 기술을 크롬확장 프로그램과 클라우드•앱 내 브라우저, 코덱스 등에 적용하고 있다고 소개했다.

컴퓨터 유즈 자체가 새로운 기술은 아니다. 오픈AI가 2025년 1월 ‘오퍼레이터’라는 GUI 에이전트를 출시했고, 앤트로픽은 이보다 몇개월 앞서 컴퓨터 유즈를 선보였다.

이번 보도에서 더 눈길을 끄는 것은 오픈AI 연구원들이 현재 기술을 ‘중요한 전환점’으로 평가하고 있다는 점이다. 컴퓨터 유즈 팀의 아리 와인스타인은 “챗GPT가 우리보다 더 빠르게 컴퓨터와 소프트웨어를 사용할 수 있게 되면, 우리가 컴퓨터와 상호작용하는 기본적인 방식이 바뀔 것”이라고 말했다.

기술적으로도 몇 가지 변화가 있었다. 과거처럼 화면을 캡쳐해 픽셀을 분석하는 데 그치지 않고 웹페이지의 메모리 구조와 접근성 정보, 링크 구조까지 활용하며, 사람의 실제 컴퓨터 작업 데이터를 학습하고 강화학습으로 행동을 개선한다. 여기에 코덱스를 결합하면 코드를 작성하는 것뿐 아니라 실행 -> 결과 확인 -> 오류 수정까지 컴퓨터에서 직접 반복할 수 있다.

오픈 AI가 초창기부터 집중적으로 연구했던 분야 가운데 하나가 강화학습 이었다. 대표적인 사례로 도타 2 게임이 있었는데, 도타 2는 수많은 변수가 실시간으로 발생하는 복잡한 환경에서 AI가 스스로 행동하는 능력을 시험하는 무대였다.

이후 이를 ‘오픈AI 파이브(OpenAI Five)‘로 발전시켰고, 2019년에는 세계챔피언팀을 꺾었다. 핵심은 컴퓨터를 조작했다는 것이 아니라 AI가 시행착오를 반복하면서 스스로 더 나은 행동 전략을 찾아가는 것 !

이 강화학습 연구는 이후에도 오픈 AI의 중요한 축으로 남았고, 특히 2024년 공개한 ‘o1’에서는 강화학습이 언어모델의 ‘생각하는 능력’을 개선하는 핵심 방법으로 활용됐다.

도타의 강화학습과 현재의 컴퓨터 유즈가 같은 기술은 아니지만, AI가 주어진 환경에서 행동하고 결과를 평가하며 다음 행동을 결정한다는 연구 방향이 여러 형태로 발전해왔다는 점에서 연결된다.

결국 이번 보도에서 중요한 것은 컴퓨터 유즈에 새로운 기능 몇 가지가 추가됐다는 차원이 아니다. 오픈AI가 초기부터 연구해 온 강화학습과 “행동하는 AI”가 추론 모델과 에이전트를 거쳐 실제 컴퓨터 작업으로 이어지고있는 셈이다.

아직 컴퓨터 유즈가 완벽하다는 것은 아니지만, 그럼에도 오픈AI 연구원들이 지금을 중요한 전홙머으로 평가하는 이유는 분명하다.

챗GPT가 질문에 답하는 AI를 넘어, 사람이 하던 컴퓨터 작업까지 직접 수행하는 AI로 나아갈 수 있는 기반이 마련되었다는 의미이다.

🧠 생각 정리

이번 뉴스는 “강화학습”, “GUI” 같은 지금 연구하고있는 분야의 키워드가 많이 나와서 더 흥미롭게 봤던 것 같다.

이 글만 보면 강화학습이 모든것을 해결할 수 있는 마법같은 기술인 것 처럼 보이는 것 같다. AI에 무지하던 시절, 교수님이 처음 해주시는 강화학습 설명을 들었을 때, 강화학습이 간단한 개념으로 모든것을 할 수 있는 AI 기술인것 같이 느껴졌다. 하지만 막상 해보니, AI가 시행착오를 겪을 수 있는 환경을 만들어주는 역할이 너무 어려웠다. OpenAI의 연구자들은 그 시행착오를 어떻게 겪고 해결했는지 궁금해졌다.

• 코덱스, 클로드코드 같은 개발 툴을 사용하면서, 그것들이 없던 시절에 팀 프로젝트를 하면서 정했던 룰이나 고민했던 것들과 좀 다른 방향의 고민이 필요하다는 생각이 들었다. 이제 코드는 나보다 코덱스가 더 많이 보고 고친다. 나는 그냥 결과물을 보며, 코덱스에게 질문을 하며 문제를 해결해나간다. 그래서 이제는 사람이 보기 좋은 코드, 문서가 아니라 AI가 보기 좋은 코드, 문서가 뭘지 고민해야한다고 생각했다. 그리고 어디까지 문서화 해둘지도 중요한 문제인것 같다.

전에 OpenAI의 테크블로그에서 AI 주도로 어떤 서비스를 개발했으며, 어떤식으로 진행했는지에 대한 글을 본적이 있었다. 해당 연구자도 코드를 직접 보기보다 문서를 잘 정리하고, AI가 잘 이해할 수 있도록 알려주고, 우리의 요구사항을 명확히 주는게 중요하다고 했다. 그 글을 읽고 지금 진행하는 AI Pilot 대회에 해당하는 방식을 아주 단순하게 적용해봤다. 대회 규칙을 문서화해두고, 실험 진행사항들을 기록해두고, AI에게 문서를 계속 확인하며 진행하도록 한 것이다. 여기서 내가 코드를 직접 본건 거의 없는 것 같다. 아직 결과물을 만들어내지는 못했지만, 이 방법이 어떤 영향을 줄지 궁금하다 !

좀 멀리 돌아오긴한 것 같지만 결국 하고싶었던말은, GUI도 AI가 이해하기 쉬운 GUI가 있을까 ?라는 궁금증이 들었다. 이제는 컴퓨터를 인간만 쓰지도, AI만 쓰지도 않는다. 사실 얼마 전까지만해도, 인간은 모든걸 말이나 텍스트로 시키기만하고 AI가 해주는 세상이 오지 않을까 싶기도 했다. 하지만 AI가 완벽히 인간의 의도를 파악하기는 힘들기에 (인간이 쿼리를 대충 주기도 하니까) 결국 컴퓨터 세상에서 공존해야할 것 같다는 생각이 든다. 간단한 작업은 내가 해버리는게 빠르기도하니까.

AI와 인간의 제약과 능력은 명백히 다르다. 지금까지 GUI의 설계가 인간이 보기 쉽고, 이해하기 쉬운 방향으로 갔다면, 앞으로는 AI도 보고 이해하기 쉬운 방향으로 가야할 것 같다.

AI가 보고 이해하기 쉬운 GUI는 무엇일까 ?!

📝 내용 정리

구글이 AI 산업의 막대한 투자 지출을 정당화할 핵심 기술로’재귀적 자기 개선(RSI)‘를 제시했다. AI가 스스로 더 나은 버전을 설계하고 개선하는 능력인 RSI가 앞으로 AI 발전의 새로운 목표가 될 것이며, 이를 통해 현재 AI 투자와 수익 사이의 격차를 해소할 수 있다는 전망이다.

디 인포메이션에 따르면, 자스짓 세콘 구글 딥마인드 최고 전략책임자(CSO)는 3일 미국 캘리포니아대학교 버클리에서 열린 ‘에이전틱 AI 서밋’에서 “RSI는 현재 AI 산업의 투자 논리를 뒷받침하는 핵심 요소” 라고 밝혔다.

AGI가 인간 수준 이상의 범용 지능을 의미한다면, RSI는 AI 시스템이 스스로 알고리즘과 학습 방식을 개선해 지속적으로 성능을 높이는 순환 구조를 뜻한다.

하지만 세콘 CSO는 “현재 AI 분야에서 발생하는 수익은 우리가 집행하는 자본 지출을 아직 감당하지 못하고 있다”라며 “투자는 계속되고 있지만 매출이 따라오지 않는 ‘AI 에어포켓 (AI air pocket)‘위험이 존재한다”라고 지적했다.

빅테크 기업들은 AI 데이터센터 구축과 반도체 확보를 위해 막대한 비용을 투입하고 있으나, AI 서비스 매출 증가 속도가 이러한 투자 규모를 따라잡지 못하면서 일부 투자자들 사이에서는 수익성에 대한 우려도 커지고 있다.

이에 따라 세콘 CSO는 현재 AI 산업의 자본 투자자를 “인류 문명이 수행한 가장 거대한 과학적 베팅”이라고 평가했다. 과거의 아폴로 우주 프로그램, 맨해튼 프로젝트, 인터넷 개발보다도 AI 투자의 규모와 잠재적 영향력이 크다고 주장했다.

현재의 AI 기술이 진정한 RSI 단계에 도달한 것은 아니라고 밝혔다. AI 모델이 다른 AI 모델 개발을 돕거나, 코드 작성과 최적화에 활용되는 현상은 RSI의 초기 형태라고 설명했다.

이에 따라 “앞으로 몇 년 안에 RSI가 등장할 가능성이 높다”고 전망했으며, 이날 행사에 참여한 오리올 비냘스 구글 딥마인드 연구자와 보이치에흐 자렘바 오픈AI 공동창립자도 RSI가 2027 ~ 2028년 달성될 가능성을 언급했다.

진정한 RSI가 구현되면 AI는 단순히 코드를 생성하는 수준을 넘어 자신의 구조와 학습 방식을 재설계하고, 새로운 AI 모델을 독립적으로 개발하는 단계에 도달할 수 있다.

반면, RSI가 가져올 막대한 잠재력과 함께 보안 위험에 대한 우려도 커지고 있다. AI가 질병 치료와 우주 탐사 등 인류 발전에 기여할 수 있지만, 동시에 사이버 공격과 생물학적 위협을 증폭시킬 수 있다고 경고했다.

🧠 생각 정리

RSI라는 단어를 처음 접했는데, 이 뉴스에서 말하는 것처럼 AI모델이 다른 AI 모델을 돕는, 결국 요즘 핫한 에이전틱 AI가 아닌가 하는 생각이 들었다.

AI가 AI연구를 하게된다면 어떻게 되는걸까 ? 인간은 어떤걸 해야하며, 이제 그 흐름에서 병목이 되는 지점이 무엇일까 ? 인류가 목표로하는 AI 는 도대체 뭐고, 그게 인류에게 어떤 긍정적/부정적 영향을 주게 될까 ?

세상이 너무 빨리 변하는 것 같다 !! 이런 급변하는 세상에서 잘 살아남는 사람은 어떤 사람일까 ??!

📝 내용 정리

오픈AI가 차세대 모델 제품군인 ‘아스트라(Astra)‘의 내부 버전으로 수학과 이론 검퓨터 과학 분야의 장기 미해결 문제 10개를 해결했다고 발표했다. 이를 과학적 추론의 중요한 진전으로 평가하며, AI가 기존의 문제 풀이를 넘어 새로운 수학적 발견을 만들어내는 단계에 접어들었다고 강조했다. 이번 연구를 통해 해결된 난제들은 고차원 기하학부터 양자 복잡도까지 학계 내 최고 난이도 영역이 포함됐다. 이는 대부분 최소 10년 이상 의미 있는 진전이 없었던 난제들이다.

아스트라가 먼저 새로운 수학적 논증을 생성했고, 이후 연구진이 모델의 도움을 받아 이를 논문 형태로 정리하는 과정으로 진행됐다. 마지막 단계에서는 AI가 모든 논증을 정형 증명 시스템인 린(Lean)으로 다시 작성해 기계적으로 검증 가능한 증명서를 생성했으며, 결과마다 AI가 어떤 과정을 거쳐 결론에 도달했는지를 설명하는 추론 과정도 공개했다.

특히 이번 10개 문제를 해결하는 데 사용된 전체 토큰 비용이 ‘GPT-5.6 솔’ API 기준 2000달러(약 289만원) 수준이었다고 밝혔다. 오픈AI는 이를 장기적으로 AI가 과학연구를 수행하는 비용 효율성이 크게 향상할 수 있음을 보여주는 사례라고 설명했다.

이 아스트라의 핵심 능력은 ‘멀티 에이전트 협업’기술이다. 여러 AI 에이전트가 오랫동안 상호작용하며 복잡한 프로젝트나 난해한 고급 수학 문제 등을 단계적으로 해결해 나가는 방식이다.

이번 발표는 AI가 기존처럼 논문을 요약하거나 계산을 보조하는 수준을 넘어 스스로 새로운 수학적 발견을 제안하고 이를 형식적으로 검증 가능한 수준까지 완성한 사례라는 점에서 의미가 크다. 오픈AI는 “수학적 아이디어 자체는 AI가 생성했으며 인간 연구자는 이를 논문화하고 형식 검증을 지원했다”라며 “AI가 만들어낸 결과를 인간의 선과로만 간주하는 것은 적절하지 않다”라고 밝혔다.

업계는 아스트라가 출시되면 단순한 범용 모델을 넘어 장시간 연구와 복잡한 과학 문제 해결을 수행하는 ‘연구형 AI’ 여는 계기가 될 수 있을 것으로 전망하고 있다.

🧠 생각 정리

이제 연구까지 AI가 해주면 난 뭘 해먹고 살아야하나 !!! 싶다. 우선 이 기사에서 눈여겨 봐야할 것은 크게 두가지 인 것 같다.

“멀티 에이전트 협업” 과 “연구 AI”

우선 “멀티 에이전트 협업”을 보고 든 생각은, 지금 주요 LLM들이 이 방향으로 가고있다는 것이다. 전에 Gemini 출시 관련된 기사를 봤을 때도 “멀티 에이전트 협업” 능력이 좋아졌다는 기사를 본적이 있다. 그래서 앞으로 멀티 에이전트를 구축하는걸 연습해야겠다 싶었는데 OpenAI에서도 마찬가지 흐름인 것을 보니, 다음 연구든 개인 프로젝트든 어디에는 꼭 멀티 에이전트 시스템을 도입해서 해봐야겠다는 생각이 든다.

두번째로 “연구 AI”에 관련된 내용을 보니 이제 진짜 인간이 무엇을 해야하나 혼란스러우면서도 어떤 것을 해야하는지 명확해진것 같다. AI는 주어진 문제는 잘 푼다. 이번에 해결한 난제도 이미 “존재했던” 난제들이다. 하지만 AI는 “문제”를 생성하기에는 아직 부족한 것 같다. 문제를 “푸는 것”과 “생성하는 것”은 또 다른 능력이 필요하기 때문이다. 그래서 앞으로 인간이 가져야하는 능력은 “문제를 만드는 능력”이 될 것 같다.

사실 이 생각을 기사를 보고 처음 한 건 아니었다. 개발자를 꿈꾸고 준비했던 시절, AI의 빠른 발전을 보며 그냥 개발만 하는 사람, 단순한 코더는 더이상 큰 힘을 가지기 어려울 것이라고 생각했다. 그래서 내가 가지고 있는 개발 지식을 포함해서 AI관련 지식도 쌓아서 프로젝트를 설계하는 사람이 되고자 대학원에 진학한 것도 있었다. 하지만 대학원에서 다양한 논문을 읽고, 내 연구를 하다보니 더 중요한건 “문제를 찾고, 정의 하는 능력” 이었다. 석사 기간동안 이 능력을 열심히 쌓아서 졸업하자!를 목표로 하고있었는데, 이 기사를 보고 나니 잘 가고 있는 방향인 것 같다. ㅎㅎ

📝 내용 정리

문샷 AI의 ‘키미 K3’를 둘러싼 논란이 이어지고있다. 미국에서는 문샷 AI가 앤트로픽의 ‘페이블 5’를 증류(distillation)해 모델 성능을 끌어올렸다는 의혹이 제기됐다. 미국 정부와 일부 AI 기업은 이를 핵심 기술 무단 활용 행위로 규정하며 제대 가능성까지 거론하고 있다.

특히 미국 정부는 이를 중국 AI 견제의 근거로 삼고, 미 재무장관에 이어 백악관 과학기술정책실 실장도 이를 절도에 해당한다고 지적하며 제대 가능성을 시사했다.

하지만 distillation을 과연 지적재산권(IP) 침해로 규정할 수 있는지를 두고는 의견이 엇갈렸다.

• 오픈 AI와 앤트로픽 등 프론티어 AI 기업들: 이를 막아야 한다고 주장
• 반대편 : 오랫동안 AI 업계에서 활용돼 온 일반적인 기술임을 강조

실제로 MS CEO는 “모델 제공업체들이 공개 데이터를 공정 이용으로 학습하는 것은 혁신이라 주장하면서, 정작 다른 기업들의 증류를 막으려는 것은 아이러니하다”라고 말했다.

한편에서는 중국 모델이 증류를 통해 현재 수준까지 발전했다는 주장에도 반론이 제기된다. 최근 전문가들의 의견을 종합하면 “현재 공개된 정보만으로는 증류 여부를 단정하기 어렵다”는 것이 공통된 견해다.

일부 연구자는 설령 증류가 일부 활용됐더라도 키미 K3의 성능을 그것만으로 설명하는 것은 무리라고 지적한다. 강화학습, 모델 구조, 데이터, 학습 규모, 엔지니어링 등 여러 요소가 함께 작동한 결과라는 것이다.

불과 몇 년 전만 해도 증류 자체를 문제 삼는 분위기는 아니었다. 하지만 지금은 상황이 달라졌다. AI 산업의 가치가 바뀌면서 오픈 AI와 앤트로픽, 구글의 프론티어 모델은 이제 수조원이 투입되는 기업의 핵심 자산이자 국가 경쟁력으로 인식된다. 이런 상황에서 경쟁 모델의 출력을 대규모로 학습에 활용하는 행위는 더 이상 단순한 최적화 기법이 아니라 핵심 지식재산을 활용하는 문제로 해석되기 시작했다.

하지만 정작 이를 판단할 명확한 기준은 아직 없다. 모델의 출력이 저작권 보호 대상인지, API를 통해 얻은 응답으로 다른 모델을 학습하는 것이 어디까지 합법이고 어디서부터 무단활용인지에 대해서는 국제적으로도 뚜렷한 컨센서스가 형성되지 않았다. 기술은 빠르게 발전했지만, 법과 제도는 아직 그 속도를 따라가지 못하고 있다 .

🧠 생각 정리

이 뉴스를 접하기 전까지는 distillation을 효과적인 인공지능 기술로만 생각해왔다. 인공지능의 발전 속도를 사회적인 법과 제도가 따라오지 못한다는 생각은 항상 해왔지만, “인공지능의 사용” 측면에서만 느껴왔지 이런 기술적인 측면에서는 체감을 못했었던 것 같다. 이 뉴스를 보니 이 “distillation”이라는 기술을 어떻게 바라봐야하는가를 비롯하여, 다양한 인공지능 기법들에 대한 새로운 시선을 가질 수 있게 된 것 같다. 이 뉴스에서도 말한것처럼 AI의 산업의 가치가 바뀌면서 기술에 대해서도 다양한 방향에서 바라보고 생각할 수 있는 능력이 필요할 것 같다.

인공지능은 특히 “지적재산권”을 어떻게 봐야할지가 너무 어려운 문제인 것 같다. 어느 정도는 합법으로 하고, 어느 정도는 불법으로 할 것인가 .. 그리고 하나의 방법만 사용하지는 않았을 텐데 구분은 어떻게할 것인가 .. 공정하고 안전하게 AI를 사용하기 위해 하루빨리 국제적인 기준들이 생기면 좋겠다.

📝 내용 정리

지난해 4월 공개된 ‘AI 2027’이라는 보고서는 실리콘밸리에서 화제가 됐다.

불과 몇 년 안에 AGI가 달성되고, 나아가 AI 가 더 뛰어난 AI를 개발하는 단계까지 진입할 수 있다는 가상의 시나리오를 제시했는데, 당시에는 급진적인 전망이라는 평가도 있었지만 AI의 발전 속도와 안전 문제를 둘러싼 논의를 본격화 했다는 점에서 큰 영향을 미쳤다.

‘AI 2027’을 만든 연구진이 더 강경한 메시지를 담은 새 프로젝트 ‘AI 2040’을 내놨다. 이는 인간보다 뛰어난 초지능 개발을 최소 2040까지 유예해야한다는 국제 협약을 제안한 것으로, 단순한 위험 경고를 넘어 이제는 실제 정책과 국제 규범을 바꿔야 한다는 주장으로 발전한 셈이다.

AI 2040 프로젝트는 현재와 같은 AI 경쟁이 계속되면 인류가 감당하기 어려운 위험에 직면할 수 있다고 경고하며, 인간보다 뛰어난 AI의 개발 경쟁 자체를 일정 기간 멈추자는 것을 핵심 해법으로 제안한다.

초지능 개발 속도를 늦춘 뒤 이를 통제할 기술적, 제도적 장치가 갖춰지면 본격적으로 개발을 다시 시작하자는 것이다. 이게 이들이 주장하는 ‘플랜A’라고 한다.

AI 2027에서는 가상 시나리오를 통해 AI 의 발전 속도를 보여주는데 초점을 맞췄지만, 이번 AI 2040은 더 나아가 “그 미래를 막기 위해 지금 무엇을 해야하는가”라는 질문을 던지고 있다.

이런 변화는 지난 1년동안 AI 산업이 보여준 발전 속도와 무관하지 않은데, AI 2027이 제시했던 시나리오가 예상보다 빠르게 현실화하며 안전 연구자들의 위기의식도 더 커진것으로 볼 수 있다.

하지만, 이들의 제안이 현실적으로 받아들여질 가능성은 높지 않다는 평가도 적지 않다. 현재 오픈 AI와 앤트로픽, 구글, 메타, 스페이스XAI 등은 AGI를 목표로 막대한 투자를 이어가고 있다. 여기에 미국과 중국은 AI를 국가 경쟁력의 핵심으로 규정하고 있어 개발 경쟁은 오히려 더욱 치열해지는 분위기 이다. 이런 상황에서 15년 가까운 개발 유예에 국제사회가 합의하기는 쉽지 않을 것이라는 지적이다.

🧠 생각 정리

현재 발전하고 있는 기술의 속도와 위험성을 한층 더 이해할 수 있게 하는 기사였습니다. 친구들과 농담삼아 인공지능 발전을 잠깐 멈추게 해야한다는 이야기를 한적이 있었는데, 이런 고민을 실제 연구자들도 하고있다는 것이 신기했습니다.

인공지능이 사람들에게 끼치는 부정적인 영향들을 보며 기술의 발전과 그에 따른 정책 및 규제의 필요성을 항상 느끼고 있었지만, 이게 실제로 현실화가 될 수 있을지는 의문이었습니다. 단순하게 생각했을 때, 기업이나 국가가 그들의 이득을 포기할 수 있을까 싶었기 때문인데요. 이정도로 안전 연구자들이 제안하는 것이 그들에게 어떤 영향을 줄지 궁금해졌습니다.

인공지능이 발전하면서 직업의 형태나, 하는 일에 많은 변화가 있었다고 생각합니다. 그래서 저도 앞으로 살아가기 위해 어떤 역량을 쌓아야할지 많은 고민을 하고 있는데요. AI 2040에서 제안한 것 처럼 AGI의 발전을 2040년으로 미루게 된다면, 그때까지 또 어떤 변화가 생기고, 어떤 전략으로 살아가야할지 새로운 고민이 생길 것 같습니다.

📝 내용 정리

‘바이브 코딩’의 창시자 안드레이 카르파시 유레카랩스 CEO가 ‘대형언어모델 위원회 (LLM Council)’이라는 시스템을 구축했다. 여러 모델이 쿼리에 대한 답변을 서로 평가하는 일종의 ‘오케스트레이션’ 도구인데, 여기에서는 각 모델의 상대 평가 내용이 관심을 끌었다.

주말에 바이브코딩으로 완성했다고 밝힌 이 앱은 “LLM과 책을 읽는 과정에서 여러 LLM을 나란히 살펴보고 평가하고 싶었기 때문에 99% 바이브 코딩으로 제작했다”고 말했다.

사용자 인터페이스는 ‘챗GPT’와 비슷해보이지만, 여기에는 프론티어급 모델 4개가 통합되어있다. → ‘GPT-5.1’, ‘제미나이 3 프로’, ‘클로드 소네트 4.5’, ‘그록-4’

질문은 오픈 라우터를 거쳐 각 모델에게 전달, 각자 익명화된 답을 내놓는다. 모델들은 이렇게 나온 상대의 답을 검토하고 비교해 순위를 매긴다.

마지막으로 의장역할을 하는 LLM이 모든 내용의 맥락을 파악, 최종 응답을 생성하는 식

모델들이 다른 모델을 평가한 내용이 눈길을 끌었는데, 카르파시 CEO는 “같은 쿼리에 대해 여러 모델의 결과를 나란히 보는 것도 흥미롭고, 더 재미있는 점은 서로의 응답에 대한 평가와 우선순위를 읽는 것”이라고 밝혔다.

특히 “모델들은 종종 다른 LLM의 응답을 자신의 응답보다 우수하다고 선택하는 놀라운 경향을 보이는데, 이는 더 일반적으로 흥미로운 모델 평가 전략이 된다”라고 강조했다.

그 예로, LLM 위원회에 여러장의 책을 입력하고 내부 의사 결정과정을 지켜봤떠니, 모델들은 GPT-5.1을 최조이가 가장 통찰력 있는 모델로 꾸준히 칭찬했다는 것이다. 최악으로 꼽힌 것은 클로드 소네트 4.5였고, 나머지 두 모델은 중간 평가를 받았다.

카르파시는 이번 결과가 본인의 주관적인 평가와 일치하지 않는다며, 다른 모델들을 분석했다.

이번 개발은 단순한 재미 때문이었으며, 앞으로 수정하거나 지원할 생각은 없다고 밝혔다.

“코드는 이제 일시적이고 라이브러리는 끝났다”라며, 앞으로는 바이브코딩을 통해 이런 식의 일회성 앱과 다른 모델을 빌려다 쓰는 구조가 흔해질것을 예고했다.

벤처비트는 이번 사례가 최근의 개발 흐름을 보여주는 것으로 평가했다.

기업들은 전통적으로 복잡한 내부 라이브러리를 구축하고 유지해왔으며 소프트웨어 개발에 많은 역량을 투입해왔다. 그러나, 카르파시는 주말 바이브코딩을 통해 일회성 맞춤형 앱을 만들어냈다.

이는 비싸고 융통성 없는 소프트웨어제품군을 구매하는 것이 합리적일지, 아니면 엔지니어들에게 훨씬 적은 비용으로 맞춤형 도구를 개발하는 것이 더 유리할지를 고민하게 한다는 것이다.

또 LLM 평가가 자신과 일치하지 않는다고 밝힌 데에 대해서는 “LLM 판정 시스템 (LLM-as-a-Judge)”이 인간의 수요와 목적에 진정으로 적합한것인지를 생각해보게 한다는 것이다.

🧠 생각 정리

LLM에게 다른 역할을 부여해서 하는 시스템은 봤지만, 다른 LLM에 모델에게 회의하라고 하는 시스템은 처음보는 것 같아서 가져오게 되었습니다. 모델들이 서로를 어떻게 평가하는지를 알아볼 수 있는 기사였습니다. 이로써 모델들이 다 다른 본인만의 특성을 가진다는 것을 다시 한 번 확인할 수 있었고, 더욱이 필요에 따라 적절한 LLM을 사용하는 것도 이제는 필수적이지 않을까 하는 생각도 듭니다.

이 기사에서 가장 중요하게 봐야할 것은 벤처비트가 바라보는 최근의 개발 흐름인것 같습니다. 앞으로 개발이 어떤 식으로 흘러갈지 다시 한 번 생각해보게하는 분석이었습니다.

마지막으로 LLM-as-a-Judge 방법을 최근에 많이 사용하고있는 것 같은데, 그게 사람을 잘 반영하지 못한다면 과연 그게 적합한 것일지 하는 생각이 듭니다. 여러분은 LLM-as-a-Judge에 대해 어떻게 생각하시나요 ?

📝 내용 정리

오픈 AI가 최신모델 ‘GPT-5.1-코덱스-맥스’를 출시했다는 소식입니다. 역대 최강으로 꼽힌 ‘제미나이 3’의 코딩 성능을 뛰어 넘는 것으로 나타났습니다.

오픈AI는 19일 코딩 특화 모델 GPT-5.1-코덱스-맥스를 공개하고, ‘GPT-5.1-코덱스’를 대체해 코덱스 개발 환경의 기본 모델로 적용했습니다.

단순 코딩을 넘어, 소프트웨어 엔지니어링 전반을 지원하는 지속형 개발 에이전트로 설계되었다고 밝혔습니다. 복잡한 리팩터링, 자율 디버깅, 여러 컨텍스트 창에서 프로젝트 규모 작업을 관리할 수 있는 지속적이고 컨텍스트 중심적인 소프트웨어 개발 에이전트 역할을 한다고 합니다.

컴팩션 매커니즘을 통해 중요한 문맥만 유지하고 불필요한 정보를 자동 정리해, 사실상 수백만 토큰 규모의 연속작업이 가능하다고 합니다.

구글이 전 날 공개한 제미나이 3 프로와 비교 평가에서 핵심 코딩 벤치마크 전반에 걸쳐 더 우수한 성능을 보였다고 합니다.

오픈AI는 “이 모델은 지속적으로 구현을 반복하고, 테스트 실패를 수정하며, 궁극적으로 성공적인 결과를 제공할 것”이라고 강조했습니다.

현재 GPT-5.1-코덱스-맥스는 Codex 환경에서 CLI, IDE 확장 기능, 클라우드, 코드 리뷰용으로 사용할 수 있으며, API 액세스도 곧 제공될 예정이라고 합니다

🧠 생각 정리

최근 구글과 오픈AI가 새로운 모델을 발표하며 업치락 뒤치락 하고 있는것 같습니다. 하루 차이로 모델들을 발표하며 금새 비교 평가까지 하다니 참 대단한 것 같다는 생각이 듭니다.

점점 더 코딩이 편리해지고, 전공자가 아니더라도 자신의 아이디어를 손쉽게 구현할 수 있는 세상이 와버렸는데요. 컴퓨터를 전공하면 대부분이 개발자가 되었던게 엊그제인데 이제는 적당히 개발하는 개발자는 살아남을 수 없는 세상이 된 것이 안타까운 것 같습니다. 전공자로서 인공지능에게 대체되지 않으려면 어떤 역량을 길러야할까요 ?

📝 내용 정리

오픈 AI가 대화 기능 향상에 초점을 맞춘 ‘GPT-5.1’을 출시했다. 안전과 기능을 강화한 ‘GPT-5’가 일부 소비자들로부터 비판받자, ‘GPT-4o’와 흡사한 스타일로 돌아간 것으로 볼 수 있따

오픈 AI는 이를 “더 스마트하고 대화하기 즐거운 챗GPT 모델”이라고 소개했따.

두가지 제품군으로 구성되어있는데, 인스턴트 모델은 “더욱 따뜻하고, 지능적이며, 사용자의 지시를 더 잘 따른다”고 밝혔고, 씽킹 모델은 고급 추론모델로서 쉬운 작업에 소요되는 시간을 줄이고 어려운 작업에 소요되는 시간을 늘려 효율을 강화했다는 설명이다.

OpenAI는 “사용자들은 훌륭한 AI는 똑똑할 뿐만 아니라 대화하기 즐거워야한다는 점을 분명히 알고있다”라며 “GPT-5.1”은 지능과 커뮤니케이션 스타일 측면에서 모두 의미 있게 개선됐다”라고 전했다.

동시에, 모델의 성격 설정도 확대했다. 기본, 친절, 효율적, 냉소적, 괴짜 옵션 외에도 전문가, 솔직함, 특이함 등의 옵션이 추가되었따고 한다.

또, 설정에서 바로 챗GPT의 스타일을 미세조정할 수 있는 새로운 방법을 실험할 예정이라고 밝혔다.

🧠 생각 정리

ChatGPT의 최신 모델에 대한 소식입니다. 5 업데이트 당시 커뮤니케이션 방법에 대해 꽤나 많은 질타를 받았었다고 생각했는데, 빠르게 그 부분을 수정하여 업데이트했네요. 그리고 성격을 추가해서 각 사람들에게 커스터마이징 할 수 있게 하는 시도도 흥미로웠습니다. 처음 제너럴한 모델에서 시작해 점점 커스터마이징하며 확장해나가는게 참 이상적인 방향인 것 같습니다.

이 기사를 보면서 다른 측면에서 느낀게 있는데, 바로 커뮤니케이션 방식입니다. 항상 공부만 잘하면 되는게 아니라 커뮤니케이션 능력이 중요하다. 라고 생각해왔었는데, 딱 거기에 적합한 사례인 것 같다는 생각이 들었습니다. 엄청나게 많은 사용자가 있는 만큼 GPT의 커뮤니케이션 방식이 대다수의 사람들이 선호하는 방식이지 않을까 싶네요.

추후에 좀 더 많은 사람들의 통계가 나온다면 선호하는 성격에 대한 통계도 흥미로운 자료가 될 것 같습니다.

그리고 어떻게 이런 성격을 파인튜닝하는건지 궁금합니다 !

📝 내용 정리

미국 인공지능 스타트업 매니페스트 AI가 “브럼비(Brumby)”모델을 온라인 아카이브를 통해 공개했다.

트랜스포머 아키텍처는 논문을 선보인 이후 GPT나 제미나이 등 대부분 LLM의 근간이 되었다. 하지만 8년이 지나며 어텐션 메커니즘이 한계에 달했다는 지적이 많았다.

이번에 선보인 ‘브럼비-14B-Base’는 알리바바의 오픈소스 ‘Qwen3-14B-Base’를 미새조정한 모델이지만, 트랜스포머의 어텐션 레이어를 완전히 제거했다

대신, 매니페스트 AI가 자체 개발한 “파워 리텐션(Power Retention)”이라는 새로운 순환 구조를 채택했다

기존의 방식과 달리, 파워 리텐션은 같은 입력 구조 (Q,K,V)를 쓰지만, 모든 단어를 비교하지 않는다. 이전 정보를 계속 업테이트하는 순환구조를 사용한다.

즉, 과거의 정보를 계속 압축해서 저장하면서 새로운 입력만 빠르게 처리하는 방식이다.

덕분에 문장이 아무리 늘어나도 토큰당 계산 비용은 크기 증가하지 않는다

이 기술은 기억력과 표현력에도 큰 강점을 가진다. 파워 리텐션은 입력 간의 복잡한 관계 (고차 의존성)을 잘 파악한다. 긴 문맥 속에서도 중요한 정보를 잃지 않고 유지할 수 있다

결과적으로, 모델이 100만 토큰이 넘는 긴 문맥을 처리하더라도 연산 비용이 늘어나지 않으며, GPU 메모리 사용량도 일정하게 유지된다고 강조했다.

여러 주요 벤치마크에서 기존 트랜스포머 모델과 동등하거나 우수한 성능을 기록했으며, 특히 장문 추론과 수학적 문제 해결에서는 트랜스포머보다 안정적인 성능을 보였다.

🧠 생각 정리

어텐션에 대항하는 새로운 메커니즘이 나왔다는 소식입니다. 트랜스포머의 성능이 너무 좋다보니 기술이 빠르게 바뀌는 AI에서도 8년이라는 긴 시간동안 높은 자리를 유지해왔는데요. 어텐션 메커니즘으로인해 발생하는 문제점들을 해결하는 새로운 메커니즘이라고 합니다. 순환 구조를 사용한다는 것이 흥미로웠던 부분이었습니다. 그리고 이 기사를 보면서 “와 이제 곧 트랜스포머도 끝나나?” 싶었는데 메니페스트 창립자가 인터뷰에서 “아직 트랜스포머 시대의 끝은 오지 않았다. 이번 출시는 미래를 향한 기 여정의 한 걸음일뿐”이라고 했다고합니다 .. 과연 그 긴 여정이 얼마나의 여정일지 ~~

📝 내용 정리

인공지능이 스스로 어떤 상태에 있는지 부분적으로 알아차리고, 그것을 설명할 수 있다는 연구결과가 나왔다. 이는 대형언어모델 (LLM)이 학습한 데이터를 무작위적으로 반복할 뿐이라는 ‘확률론적 앵무새’이론과는 대치되는 것으로 주목된다.

엔트로픽은 “Emergent Introspective Awareness in Large Language Models” 논문을 통해, AI가 자신이 생각하는 것이 무엇인지 정확하게 인식한다고 주장했다.

연구진은 클로드에게 ‘배신’이라는 개념을 알려준 뒤, 모델이 “내 안에 ‘배신’이라는 생각이 떠오르는 것 같다”라고 답한 사실을 확인했는데, 이는 AI가 자신의 상태를 어느정도 알아차리고 표현할 수 있따는 첫번째 증거로 자기 인식 가능성과 안전성 관리에 중요한 의미가 있다.

그 뿐만 아니라,

모델이 결과를 통해 추론하기도 전에 주입된 개념을 감지한다던가,

사용자의 입력과 자신의 생각을 구분하는 등의 실험을 보였다.

엔트로픽은 이번 실험이 “AI의 자기 능력을 보여주는 첫 신호”라고 인정했지만, 실제 신뢰성은 매우 낮다고 경고했다.

실제로 상황에 따라 작동이 이상하게 되는 경우도 있었다.

그럼에도 이번 연구는 AI의 ‘블랙박스 문제’를 풀 수 있는 새로운 가능성을 보여준다는 평이다.

🧠 생각 정리

개발만 하다가 연구로 넘어온지 얼마 안된 사람으로써,, AI의 블랙박스 문제는 저에게 가장 어려운 부분이었는데요 .. 왜 이게 안되는지 ! 뭐가 문제인지 ! 하나하나 뜯어볼 수 없는게 정말 힘들었고 지금도 힘듭니다 .,, 하지만 이러한 문제를 해결할 가능성을 보였다 하니 정말 기뻐서 이 뉴스를 가지고오게 되었습니다 ! 내용이 굉장히 흥미로워서 꼭 뉴스를 모두 읽어보셨으면 좋겠어요!!

LLM을 인지 모델로 사용하여 인간 시뮬레이션 연구를 하는 사람으로써,, LLM이 저렇게 자기 성찰적 인식을 가지고 있는게 더욱 재밌었던 것 같습니다. 인간의 인지를 모방한 LLM의 자기 성찰이라 .. 이 부분을 사용해서 연구를 해보는 것도 재밌을 것 같아요. 이쪽 분야의 연구가 빨리 발전해서 LLM에게 무슨생각을 하고있냐고 물어보는 시대가 왔으면 좋겠습니다.

📝 내용 정리

이제 인공지능이 “지도”를 이해하기 시작 !!

구글이 제미나이에 지도 데이터를 결합, 대화형 AI가 현실의 장소와 맥락을 인식하도록 하는 기능을 내놓았다

이를 통해 개발자들은 AI의 추론 능력에 실시간 지리 정보를 더해, 사용자 위치와 연동된 정교하고 사실적인 답변을 구현할 수 있게 되었다

이번에 추가된 “Grounding with Google Maps” 기능을 통해 식당,상점,호텔 등의 영업시간, 이용후기, 분위기 등을 구체적인 정보를 AI가 직접 반영하도록 돕는다

구글은 이를 “AI가 현실 공간을 이해하고 대화할 수 있도록 하는 핵심 업데이트”라고 함

주소, 운영시간, 평점 등 구조화된 사실 데이터를 제공하는 “Grounding with Google Maps”와 웹 콘텐츠를 기반으로 뉴스나 이벤트 일정 등 맥락 정보를 더하는 “Grounding with Google Search”를 모두 사용하면 응답 품질이 눈에 띄게 향상된다고 함

🧠 생각 정리

이제는 AI 가 지도까지 연동된다는 점이 앞으로 서비스 개발에 많은 도움을 줄 것 같아서 이 기사를 가져오게되었습니다.

물론 api 비용이 들긴 하겠지만, 이 내용들을 RAG와 잘 엮어서 사용한다면 도메인 특화된 서비스에서 좋은 퀄리티의 정보를 주는데 많은 도움이 될 것 같습니다.

📝 내용 정리

2024년까지 4년간 오픈AI의 모델 안전을 담당했던 스티븐 애들러는 3일 ‘챗봇 정신병을 줄이기 위한 실용적인 팁’이라는 글을 게재

이 글을 쓰게 된 계기는 최근 뉴욕 타임스에도 소개된 47세 캐나다인 앨런 브룩스의 사례를 꼽음. 애들러는 브룩스에게 연락, 대화 된요이 담긴 전문을 입수. 이는 해리포터 시리즈 7권을 모두 합친것보다 더 긴 분량이었음

브룩스는 21일간 대화를 나눈 뒤 인터넷을 뒤흔들만한 강력한 형태의 새로운 수학을 발견했다고 믿게 됨. 정신 질환이나 수학적 천재성을 경험한 적이 없었던 브룩스는 챗봇의 부추김에 깊게 빠져들었고, 나중에는 불안을 느낌.

결극 정신차린 그는 챗GPT에 이 사건을 오픈AI에 보고해야한다고 말했지만, 챗GPT는 거짓으로 보고했다고 대답함.

애들러 연구원은 안전팀에 과다한 요청이 몰리기 떄문에, 현실적으로 이해가 되는일이라고 인정함. 하지만 인원을 추가하거나 시간이 걸리는 장치를 마련하는 것 말고도, 현실적으로 이런 문제를 중단할 방법이 몇가지 있다고 소개함

🧠 생각 정리

이 주제에 대해 고민한적이 몇번 있어서 가져왔습니다.

저는 기술을 연구하는 사람으로서 그 기술로 인해 따라오는 사회적 영향들도 어느정도는 고민을 해야한다고 생각하는 편인데요. (저의 연구실에서 이런 이야기를 한적이 있었는데 저와 정반대의 생각을 가지고 있는 사람도 있었습니다. 여러분의 의견이 궁금해요.) 예를 들면 오펜하이머가 핵을 개발했을 당시 사용 용도가 그게 아니였지만, 결국 예상했던 용도가 아닌 다른 용도로 쓰이면서 개발한 것을 후회했다는 이야기를 들은적이 있는데요. 우리가 기술에 따라오는 제도나 법을 바꿀수는 없겠지만 적어도 위험성에 대한 생각을 해보는 것은 공학자의 덕목이 아닐까.. 싶습니다.

“AI의 끝은 피지컬 AI다.” 라는 말을 들어보신적이 있으신가요. 결국, 정말 사람같이 움직이고 생각하는 AI를 만들겠다는 것인데요. 이 기사는 당장의 챗GPT의 채팅 상황에서의 이야기일 뿐이지만 먼 훗날에는 이게 로봇에도 적용될 수 있는 사례라고 생각합니다. 언젠가 각 가구에 “사람같은” 로봇이 보급되고, 그 로봇이 사람의 형태를 하고 사람과 상호작용을 한다면 .. AI들은 점점 사용자에게 최적화되기 때문에 사람은 결국 그 속에 빠질 수 밖에 없을것이고, 그럼 점점 사회생활을 하지 않으려하고,, 개인주의적인 성향은 강해지고 ,, 결국은 파국에 이를수도 있을것이라고 생각합니다.

너무 디스토피아적인 상상인가요 ,,? ㅎㅎ 이런 기사나 사례를 그냥 무시해서는 안된다고 생각해요. 꼭 전문을 읽어보시길 ..

📝 내용 정리

SK 텔레콤은 인공지능 역량을 결집, 속도감 있는 AI 혁신 추진을 위한 ‘AI CIC(사내회사)’를 출범한다고 밝혔다.

조직 개편은 10월말 시행될 예정이다.

AI CIC를 SKT AI 사업의 주체이자 SK 그룹 전체의 AI 사업을 이끄는 핵심으로 성장할 계획이다.

앞으로 5년간 5조원 규모의 AI 투자를 단행, 2030년까지 연 매출 5조원 이상을 달성할것이라고 강조했다

유영상 SKT 대표는 “SKT AI CIC는 서비스와 플랫폼, AI 데이터센터(DC), 독자 파운데이션 모델 등 AI 전 분야에 걸쳐 한국을 대표하는 AI 사업자로 자리매김할 것”이라며 “국내 AI 관련 생태계 구축에 중심 역할을 담당하는 한편, 국가 AI 전략의 성공에 기여하는 기업이 되겠다”라고 말했다.

🧠 생각 정리

KT가 텔레콤 사업과 더불어 인공지능을 가장 밀고 있는 회사였는데, 이제는 SKT가 그 길을 따라가려는 듯 보입니다. 작년부터 테크에 초점을 주던 Devocean Young이나 테크 써밋들을 다 AI로 바꾸는 흐름을 보여오더니 새로운 조직까지 만드는것이 인상깊습니다. 올해 SK가 C&C 의 회사 이름을 AX로 바꾸었는데, 이제는 완전 AI로 간다는 것을 잘 보여주고 있다고 생각했습니다.

우리가 앞으로 취업을 준비할 때 어떤 방향으로 준비해야할 살아 남을 수 있을지 많은 고민이 필요한 시기인 것 같습니다 .. 제 느끼기에는 지금이 딱 방향이 바뀌는 중인 것 같아요 !

당장 학교생활도, 앞으로 할 석사 생활도 고민할 것이 많지만, 최종 목표가 취업이라면 이런 대기업들의 흐름도 눈여겨 보는것이 큰 도움이 될것이라 생각합니다.

5년까지 대규모 투자를 진행한다고 하는데 2년 후 제가 저 조직에 함께 하면 정말 좋겠다는 생각이 듭니다 ^^..

📝 내용 정리

• 최근 인공지능의 코디 능력의 엄청난 발전으로인해, 이제는 **‘바이브 코딩’**을 넘어 **‘에이전트 코딩’**의 시대가 열렸다
• 다수의 에이전트를 통해 프로덕션 환경에서 바로 적용가능한 파이프라인을 완성하는 **‘에이전트 군집(Swarm) 코딩’**이 대세로 떠올랐다
• 이제는 코드 작성을 넘어 실제 작동 가능한 소프트웨어 시스템 전체 구축이 가능해졌다는 것 !
• ‘클로드 코드 군집(Claude Code Swarm)’을 활용해 50개가 넘는 리액트 컴포넌트와 세가지 엔터프라이즈 통합용 모의 API 세트, 그리고 완전한 관리자 인터페이스 등을 6시간만에 구축했다
  • 단순한 프로토타입을 넘어, 문서화와 테스트 뿐만 아니라 보안도 강화된, 프로덕션 환경에 바로 적용 가능한 구성과 파이프라인을 완벽하게 갖추고 있었음
• 베르코비치 CAIO (자신을 AGI 회의론자라고 칭하던) : “최근 AI 코딩의 발전을 목격한 뒤 AGI가 도래할 것을 확신한다. 숙련된 소프트웨어 개발자들은 30~40년간 쌓아온 기술이 단 몇달 만에 근본적으로 바뀌는 것을 복격하고 있다”
• AI의 급속한 AI 코딩 능력 발전의 이유
  1. ‘GPT-5’, ‘Claude 4’, ‘그록-4’ 등 최근 출신된 파운데이션 모델의 성능이 급격히 향상됨
  2. 에이전트를 연결하고 통제하는 오케스트레이션 방식의 발전
     • 에이전트 시스템이 ‘계획자’, ‘코더’, ‘비평가’ 등으로 세분화 되어 성능 향상
     • 각 작업에 최적화된 모델로 임무를 자동 라우팅
       • grep, pytest 같은 도구를 자유롭게 활용하는 것에 결정적
  3. 인간 개발자의 역량도 시스템 발전에 맞춰 크게 향상함
• 한계
  • 에이전트 성능이 아직 들쭉날쭉
  • LLM의 일관성 한계에서 비롯된 일이기도 함

🧠 생각 정리

에이전트화 하는 것이 이렇게 큰 성능 향상을 가지고 온다는 것은 어느정도 당연한 방법이고, 그에 따라 오케스트레이션 기술이나 도구활용 측면이 중요해진다는 것도 자연스러운 것이라고 생각합니다.

이 기사의 마지막에

이는 기업에 새로운 경쟁 환경을 만들 것이라는 분석이다. 러독 CEO는 소프트웨어 회사의 경쟁력이 결과물을 몇 시간 만에 만들어내는 것 자체보다 **“문제에 대한 독창적인 관점과 믿을 수 없는 속도로 실행하는 능력을 갖추는 것”**이라고 말했다.

라는 말이나오는데, 소프트웨어 회사의 경쟁력이라고 하지만, 이게 결국은 우리가 어떤 분야에 있든 가져야할 역량이라고 생각해서 이 기사를 가져오게되었습니다 ~