IntelliJ 콘솔 창 한글 깨짐 현상의 원인과 해결 방법

#1 왜 깨지는가?

#1-1 배경 지식

VM이 println("뀨") 라는 코드를 마주쳤다. (정확히는, 저런 .java 코드 형태가 아닌 .class 코드 형태의 print문 일 것이다) 

[UTF-8로 인코딩] "뀨" → EB 80 A8 (크기: 3바이트)
[CP949로 인코딩] "뀨" → B2 F3 (크기: 2바이트)

혹시라도 헷갈릴까봐 여담부터 꺼내는 게 좀 그렇지만, "인코딩"은 컴파일 시점에서 일어나는 일이 아니다. 애초에 VM은 이미 컴파일된 바이트 코드를 읽는 역할이므로, "VM이 인코딩을 수행한다"는 일은 컴파일 이후(= 런타임)에 일어나는 일이어야만 한다. 그렇다면 "인코딩"이란 무엇인가?

 "인코딩"이란, Java VM이 .class 파일을 실행하다가 콘솔에 문자열을 출력하거나 파일을 저장하는 등 "뭔갈 표현ㆍ내보내야 하는 상황"에서 해당 정보를 특정 규칙에 따라 이진수로 변환하는 런타임(실행 중) 작업이다.

자연어로 소통하는 사람과 달리, 컴퓨터끼리는 정보를 이진수로 주고 받는다. 따라서 정보를 보내기 전에 이진수로 변환을 하는 것이다.
 
그렇다면 받는 쪽에서도 저 정보를 해석하기 위해 역변환을 해야 할 것이다. 이것을 디코딩이라 한다. 인코딩과 디코딩에서 서로 같은 규칙을 써야 제대로 된 정보가 튀어나올 것이다.
 

#1-2 이유

Mac이나 Linux에서는 한글 깨짐이 흔하지 않다. 한글이 깨지는 운영체제는 대부분 Windows다. 왜 그럴까?
 
정보를 주는 쪽 = JVM 쪽 = Java/Kotlin 쪽은 비교적 최근(2010년대 후반~)에 "기본값을 (범용적 규칙인) UTF-8로 통일하자"는 방향으로 업데이트를 단행했다. 최신 JDK는 플랫폼 상관없이 UTF-8을 기본값으로 밀어붙인다.
 
반면, 정보를 받는 쪽 = Windows 콘솔 쪽은 1980 ~ 90년대 MS-DOS 시절부터 이어져 온 레거시 시스템을 여전히 유지한다. 당시엔 Unicode / UTF-8이라는 개념 자체가 없었고, 각 나라 별로 코드 페이지(한국은 949)를 따로 정해서 써왔다. Windows는 옛날 프로그램들과의 하위 호환성을 지금까지도 지키기 위해, 인코딩ㆍ디코딩 규칙을 여전히 지역별 레거시 값으로 유지한다.
 
그렇다. 하위 호환성 때문에 규칙 최신화를 하지 않은 것이다. Windows 나름대로의 Trade-Off 였을까? (#2-3에서 Windows가 왜 이런 Trade-Off를 했는지 조금은 이해하게 되었다!)
 

#2 해결

#2-1 방법 1: 환경 변수 이용

key: JAVA_TOOL_OPTIONS
value: -Dfile.encoding=UTF-8 -Dstdout.encoding=UTF-8 -Dstderr.encoding=UTF-8

위와 같은 환경 변수를 추가한다. JAVA_TOOL_OPTIONS은 JAVA_HOME처럼, JVM 자체에서 (공식적으로) 참조하는 환경 변수 key값이다. value의 내용은 컴퓨터에서 실행되는 모든 JVM 프로세스에 (UTF-8로 디코딩하라고) 강제하는 것이다.
 

• 장점: 하드 코딩이다보니, 일단 강력하다.
• 단점: JVM이 실행될 때마다 "Picked up JAVA_TOOL_OPTIONS: -Dfile.encoding=UTF-8 -Dsun.stdout.encoding=UTF-8 -Dsun.stderr.encoding=UTF-8"라는, 거슬리는 메시지가 출력된다.

 

#2-2 방법 2: gradle.properties 수정

# in gradle.properties
org.gradle.jvmargs=-Dfile.encoding=UTF-8 -Dstdout.encoding=UTF-8 -Dstderr.encoding=UTF-8

gradle.properties를 켜서 저 org.gradle...=UTF-8 한 줄 추가하면 된다.
 

• 장점: gradle.properties 파일은 일반적으로 Git의 추적 대상에 포함되기 때문에 팀원끼리 공유할 수 있다. 또, #2-1처럼 과격한 방식 또한 아니다.
• 단점: Gradle이 실행하는 Java 프로세스에만 적용된다.

 

#2-3 방법 3: Windows 시스템 자체를 바꾸기

[설정] - [시간 및 언어] - [언어 및 지역] - [언어] - "Beta: 세계 언어 지원을 위해 Unicode UTF-8 사용" 옵션 활성화

옵션 이름에 "Beta"가 들어가는 이유엔, 후술할 단점 때문도 있을 것이다. 호환성이라는 것이 참 어렵고 중요하다는 걸 느꼈다.
 

• 장점: VM을 조금도 건들이지 않고 문제를 해결할 수 있다. 가장 이상적인 해결책이라고도 볼 수 있다.
• 단점: Windows 10 1903 버전부터 가능하다. 추가로, 이 설정을 하고 나면 (메이플스토리 같은) 일부 게임이 실행되지 않는다. 게임을 실행하기 전마다 매번 설정 창을 들락날락할 순 없기에 일부 사람들에게는 치명적인 단점이다.