소형 LLM을 활용한 로컬 자동 코딩 (Qwen 3.8 27B)

중국 알리바바 그룹이 개발한 Qwen 3.8 27B는 게임용 GPU 1장에 다 들어가는 작은 용량에도 불구하고, Artificial Analysis Intelligence Index가 50점이 넘어가는 (용량 대비) 엄청난 성능을 낸다.

이게 얼마나 엄청난 점수인가 하면, 2년 전 세계 최고 성능을 자랑했던 클로드 OPUS 4.5 모델과 비벼볼 수 있는 수준이다.

 

비록, 과추론(너무 오랫동안 생각)하는 경향이 있어서, 간단한 작업 하나에 10분 넘게 기다려야 하는 일이 다반사이긴 하지만, 토큰 비용을 지불하지 않고, 각자 PC에서 쓸만한 성능의 자동 코딩을 수행할 수 있는 시대가 된 것이다.

느린 속도 문제도 잠들기 전에 일을 시켜놓고, 자고 일어나면 대충 해결되어 있어서 감당 가능한 수준이다.

 

 

 

요즘 많이 쓴다는 '클로드 코드'는 터미널 인터페이스인데, 21세기에 아직도 터미널?? 이라는 생각에 손이 가질 않아서, 'ChatGPT'(일명 codex-app), 'Hermes Desktop', 'Cline'(VS Code 플러그인), 'LM Studio Bionic'등 GUI 인터페이스 에이전트 앱을 주로 사용했고, ollama를 사용해서 Qwen 3.8 27B을 백엔드로 연결해서 사용했는 데, 초기 기능 구현 코딩은 훌륭하게 해 낸다.

 

불과 2년 전에는 개별 파일 단위로 (혹은 코드 블록 단위로), AI에게 떠먹여주듯 수동으로 컨텍스트를 일일이 지정하고 '예제 코드 작성'/'코드 리뷰'/'문서화'등 보조 업무 용도로만 사용했고, 그것조차도 대단한 발전이라고 생각했는 데,

이제는 AI 모델이 알아서 프로젝트 내 수많은 파일들을 뒤져가면서 관련된 파일을 찾아내고,

'자동 코드 생성' -> '테스트 코드 작성' -> '테스트 수행' -> '오류 수정'까지 개발 프로세스 전반을 다 해 내고,

이후 적절한 추가 지시만 하면 '중복 코드 제거' 리팩토링까지 해 내는 것을 보면서,

개발 과정의 주요 업무 80% 이상을 AI가 해내는 시대가 왔다는 느낌이다.

 

물론, 아직까지는 한계가 존재한다.

초기 구현 과정에서 중복 코드를 다량 양산한다.

그래서, 초기 구현을 마친 후, 리팩토링 작업을 반복적으로 수행해줘야 한다.

리팩토링 작업도 AI 모델에게 시키면 80~90%는 해결되지만, 마지막 10~20%는 여전히 사람의 손길이 필요한 것 같다.

그리고, 가끔씩 미세한 로직 에러(혹은 논리 버그)가 숨어있는 경우도 존재한다.

 

쓸만한 수준의 초기 기능 구현은 아주 빠르게 구현되는 데,

해당 코드를 장기간 관리 가능한 수준으로 복잡성을 관리해 나가려면,

(아직까지는) 인간의 개입(내지 케어)가 필요한 것 같다.

 

결국, 장기 유지보수를 위해서 AI가 생성한 코드를 인간이 읽고 이해해야 하니까,

현직 개발자들은 AI가 엄청난 속도로 쏟아내는 코드를 읽고 이해하느라 업무량이 폭증했다고 한다.

개인적으로는 혼자서 모든 것을 개발하던 것에 비하면 체감 피로도가 확연히 줄었다.