Hysteria2와 OpenVPN 차이점 비교｜속도·지연·약한망 선택법

Hysteria2와 OpenVPN의 전송 방식부터 이해하기

Hysteria2는 QUIC을 기반으로 동작하는 프로토콜입니다. QUIC은 UDP 위에서 전송되며, 연결 설정과 암호화 협상을 함께 처리하는 구조를 사용합니다. Hysteria2는 네트워크 상태에 맞춰 전송 속도를 조정하는 방식으로 설계되어 있어, 일부 무선망이나 패킷 손실이 있는 환경에서 TCP 기반 연결과 다른 체감 결과를 낼 수 있습니다. 다만 UDP 패킷 자체가 차단되거나 속도 제한을 받는 네트워크에서는 장점이 나타나지 않을 수 있으며, 아예 연결을 만들지 못할 가능성도 있습니다.

OpenVPN은 TLS를 이용해 서버를 인증하고 암호화된 터널을 구성합니다. 전송 방식은 TCP 또는 UDP로 설정할 수 있습니다. OpenVPN UDP는 TCP의 재전송 부담을 줄이면서 VPN 터널을 운영할 수 있지만, UDP를 허용하지 않는 네트워크에서는 접속이 어려울 수 있습니다. OpenVPN TCP는 방화벽 통과 가능성이 높아지는 경우가 있지만, 이미 TCP인 웹 연결을 다시 TCP 터널 안에 넣을 때 패킷 손실이 겹쳐 지연 변동이 커지는 현상이 발생할 수 있습니다.

속도와 핑은 단일 수치보다 변동 폭을 봐야 한다

VPN 프로토콜을 비교할 때 속도 측정 결과 하나만 보고 결론을 내리면 실제 사용과 다른 판단을 할 수 있습니다. 측정값은 시간대, 무선 신호, 통신사 라우팅, 서버 위치, 암호화 처리, 다른 앱의 백그라운드 전송에 영향을 받습니다. 특히 Hysteria2는 UDP 기반이고 OpenVPN은 TCP 또는 UDP로 동작할 수 있으므로, 서로 다른 전송 조건을 같은 숫자만으로 비교해서는 안 됩니다.

핑은 서버까지의 왕복 시간에 가까운 지표이며, 게임 플레이 전체의 체감 지연을 그대로 뜻하지 않습니다. 게임 서버와 VPN 출구 서버 사이의 경로, 게임 자체의 매치 서버 위치, 순간적인 큐잉과 패킷 손실이 함께 영향을 줍니다. 핑이 낮아도 손실이 반복되면 캐릭터 이동이 끊기거나 음성 채팅이 잘릴 수 있습니다. 반대로 핑이 조금 높더라도 변동이 작고 연결이 지속되면 장시간 플레이에서는 더 안정적으로 느껴질 수 있습니다.

게임에서 확인할 항목

게임 테스트에서는 메뉴 화면이 열리는지만 보지 말고 실제 매치에 참여해 이동, 전투, 음성 채팅, 서버 전환을 순서대로 확인하세요. Hysteria2를 먼저 시험할 경우 UDP 경로가 정상적으로 유지되는지 살펴보고, 연결은 되지만 게임 세션에서 끊김이 반복되면 OpenVPN UDP 또는 OpenVPN TCP를 비교할 수 있습니다. 다만 게임이 자체적으로 VPN이나 프록시 연결을 제한할 수도 있으므로 프로토콜만의 문제로 단정하지 않는 것이 좋습니다.

영상과 파일 전송에서 확인할 항목

영상은 시작 속도보다 재생 중 처리량의 지속성이 중요합니다. 고화질 영상, 자막, 추천 이미지, 광고와 같은 리소스가 서로 다른 도메인에서 제공될 수 있으므로 분할 라우팅 규칙이 일부 요청을 다른 경로로 보낼 수 있습니다. 파일 전송은 다운로드뿐 아니라 업로드 방향도 확인해야 합니다. 백업이나 업무 파일 동기화에서는 업로드가 병목이 될 수 있고, 손실이 있는 환경에서는 재시도 때문에 실제 완료 시간이 길어질 수 있습니다.

약한 와이파이와 모바일망에서는 무엇이 달라지는가

약한 네트워크는 단순히 속도가 느린 상태만을 뜻하지 않습니다. 신호가 반복해서 약해지거나, 기지국과 와이파이 사이를 이동하거나, 공유망에서 패킷이 밀리거나, 특정 전송 방식이 제한되는 상황도 포함됩니다. 이때 Hysteria2의 UDP·QUIC 특성이 유리하게 나타날 수 있지만, UDP가 차단된 네트워크라면 반대로 OpenVPN TCP가 더 현실적인 선택이 될 수 있습니다.

OpenVPN TCP는 연결이 성립하는 네트워크의 범위를 넓히는 데 도움이 될 수 있습니다. 그러나 TCP 터널 안에서 또 다른 TCP 연결을 사용하는 경우, 바깥쪽과 안쪽에서 각각 재전송과 혼잡 제어가 일어나 효율이 떨어질 수 있습니다. 웹페이지나 짧은 요청에서는 큰 문제가 없더라도, 파일 전송이나 장시간 영상에서 지연이 누적될 수 있습니다. OpenVPN UDP는 이런 중복 문제를 줄일 수 있지만 네트워크가 UDP를 허용해야 합니다.

스마트폰에서는 배터리와 절전 정책도 확인해야 합니다. 화면이 꺼진 뒤 운영체제가 VPN 앱의 백그라운드 동작을 제한하면 어떤 프로토콜이든 연결이 끊길 수 있습니다. 와이파이에서 모바일 데이터로 전환할 때 터널이 자동으로 재연결되는지, 앱을 다시 열었을 때 서버 선택이 유지되는지, 절전 모드에서 알림과 업무 동기화가 정상인지 확인하세요. 이 결과는 프로토콜뿐 아니라 Android 또는 iOS의 VPN 권한과 앱별 배터리 관리 설정에도 좌우됩니다.

• ✅ UDP가 허용되는 일반적인 네트워크에서는 Hysteria2를 먼저 비교
• ✅ UDP 연결이 실패하거나 제한되면 OpenVPN TCP를 대안으로 확인
• ✅ 와이파이와 모바일 데이터 전환 뒤 자동 재연결 여부 확인
• ❌ 한 번의 속도 측정만으로 약한망에서의 장시간 안정성을 판단하지 않기
• ❌ 두 VPN 클라이언트를 동시에 실행해 결과를 비교하지 않기

Hysteria2와 OpenVPN을 직접 비교하는 테스트 순서

테스트의 공정성을 높이려면 같은 기기, 같은 네트워크, 비슷한 위치의 서버를 사용하고 한 번에 하나의 변수만 바꾸세요. 서로 다른 국가와 회선 유형을 동시에 바꾸면 프로토콜의 차이인지 서버 경로의 차이인지 알기 어렵습니다. 자동 서버 전환 기능도 테스트 중에는 꺼 두는 편이 좋습니다.

1. 클라이언트 준비: Windows, macOS, Android, iOS 또는 Linux에서 해당 프로토콜을 지원하는 공식 클라이언트나 호환 클라이언트를 선택합니다. Clash Verge, sing-box, Shadowrocket 등을 사용할 때는 Hysteria2 또는 OpenVPN 지원 여부와 가져오기 형식을 각각 확인하세요.
2. 설정 가져오기: 구독 링크를 클라이언트의 구독 추가 메뉴에 넣고 업데이트합니다. Hysteria2 설정은 서버 주소, 포트, 인증 정보, TLS 관련 항목이 정확해야 하며, OpenVPN은 프로필과 인증서 또는 키가 누락되지 않아야 합니다.
3. 라우팅 고정: 시스템 프록시, 규칙 기반 분할 라우팅, TUN 모드 중 어떤 방식을 사용할지 정합니다. 브라우저만 시험한다면 시스템 프록시로 충분할 수 있지만, 게임·터미널·회의 앱까지 확인하려면 TUN 지원 여부를 별도로 점검해야 합니다.
4. 기본 연결 확인: 연결 후 외부 IP, DNS 조회, 자주 사용하는 웹 서비스의 로그인과 이미지 로딩을 확인합니다. 브라우저가 정상이어도 다른 앱이 같은 경로를 사용한다고 볼 수 없으므로 업무 프로그램과 터미널은 따로 시험합니다.
5. 실사용 반복: 게임 매치, 영상 재생, 파일 업로드와 다운로드, 화상 회의를 각각 수행하면서 끊김, 재연결, 인증 풀림, 음성 지연을 기록합니다. 순간적인 최고 속도보다 작업이 끝까지 완료되는지가 중요합니다.
6. 네트워크 전환: 와이파이를 끄고 모바일 데이터로 바꾸거나 반대로 전환한 뒤 클라이언트가 터널을 복구하는지 확인합니다. 복구되지 않으면 앱을 재시작하고, 그래도 실패하면 배터리 절전과 VPN 권한을 점검합니다.

연결 로그를 함께 살펴보면 원인을 더 빨리 좁힐 수 있습니다. Hysteria2에서 UDP 응답 자체가 없으면 방화벽이나 네트워크 제한을 먼저 의심할 수 있고, OpenVPN에서 TLS 인증 단계가 실패하면 프로필, 서버 이름, 인증서 체인을 확인해야 합니다. 연결은 되지만 특정 앱만 작동하지 않는다면 프로토콜보다 시스템 프록시 지원 여부, TUN 라우팅, DNS 규칙을 우선 살펴보세요.

게임·영상·업무별 선택 기준

게임: UDP가 통과하고 실제 게임 서버까지의 경로가 안정적이라면 Hysteria2를 시험할 가치가 있습니다. 낮은 핑 하나보다 변동과 손실이 적은지, 음성 채팅이 함께 유지되는지를 보세요. UDP 제한이 있는 학교, 공공 와이파이 또는 일부 모바일망에서는 OpenVPN TCP가 연결성 측면에서 더 적합할 수 있습니다.

영상: 영상 시청은 프로토콜의 이름보다 서버 위치, 회선 혼잡, 스트리밍 도메인의 라우팅이 더 크게 작용할 수 있습니다. Hysteria2와 OpenVPN UDP를 먼저 비교하고, 재생 중 멈춤이 반복되면 다른 서버와 규칙을 확인하세요. OpenVPN TCP는 접속 자체가 중요한 제한망에서 대안이 될 수 있지만, 장시간 전송에서는 재전송으로 체감이 달라질 수 있습니다.

원격 업무: 웹 브라우저뿐 아니라 메신저, 문서 동기화, 화상 회의, SSH와 같은 터미널 연결을 함께 사용한다면 클라이언트의 인계 범위를 우선 확인해야 합니다. 시스템 프록시만으로는 모든 앱이 포함되지 않을 수 있으므로 TUN 모드와 앱별 규칙을 검토하세요. 회사 내부 VPN과 동시에 사용해야 한다면 라우팅 충돌과 보안 정책을 반드시 확인해야 합니다.

스마트폰: 이동 중에는 Hysteria2의 연결 특성만 볼 것이 아니라 모바일망에서 UDP가 안정적인지, 화면이 꺼졌을 때 앱이 유지되는지, 네트워크 전환 뒤 복구되는지를 확인하세요. OpenVPN은 프로필 호환성이 비교적 익숙한 환경에서 장점이 있지만, 모바일 앱의 절전 정책이 연결을 중단할 수 있습니다.

자주 묻는 질문