처리량과 지연 시간의 차이점은 무엇인가요?

지연 시간 및 처리량은 컴퓨터 네트워크의 성능을 측정하는 두 가지 지표입니다. 지연 시간은 네트워크 통신의 지연입니다. 네트워크를 통해 데이터를 전송하는 데 걸리는 시간을 보여줍니다. 지연이나 랙이 길게 발생하는 네트워크는 지연 시간이 길고, 응답 시간이 빠른 네트워크는 지연 시간이 짧습니다. 반면에 처리량은 특정 시간 동안 실제로 네트워크를 통과할 수 있는 평균 데이터 양을 가리킵니다. 이는 목적지에 성공적으로 도착한 데이터 패킷의 수와 데이터 패킷 손실을 나타냅니다.

지연 시간에 대해 읽어보기 »

처리량과 지연 시간이 중요한 이유는 무엇인가요?

네트워크가 데이터 패킷을 대상으로 전송할 수 있는 속도를 확인하여 네트워크 속도를 결정할 수 있습니다. 이 속도는 지연 시간 및 처리량과 같은 네트워크 성능 요인의 결과입니다.

지연 시간에 따라 사용자가 네트워크에서 데이터를 보내거나 받을 때 지연을 경험하게 됩니다. 처리량에 따라 네트워크에 동시에 액세스할 수 있는 사용자 수가 결정됩니다. 

처리량이 적고 지연 시간이 긴 네트워크는 많은 양의 데이터를 전송 및 처리하는 데 어려움을 겪으며 이로 인해 정체가 발생하고 애플리케이션 성능이 저하됩니다. 반대로 처리량이 많고 지연 시간이 짧은 네트워크는 반응성이 뛰어나고 효율적입니다. 사용자는 향상된 성능과 향상된 만족도를 경험합니다.

고성능 네트워크는 수익 창출과 운영 효율성에 직접적인 영향을 미칩니다. 또한 실시간 스트리밍, 사물 인터넷(IoT) 데이터 분석, 고성능 컴퓨팅과 같은 특정 사용 사례에서는 최적으로 작동하기 위해 특정 네트워크 성능 임계값이 필요합니다.

주요 차이점: 네트워크 지연 시간과 처리량

지연 시간과 처리량은 모두 안정적이고 빠른 네트워크에 기여하기는 하지만 서로 같지는 않습니다. 이러한 네트워크 지표는 고유한 통계에 초점을 맞추며 서로 다릅니다.

측정 방법

핑 시간을 측정하여 네트워크 지연 시간을 측정할 수 있습니다. 이 프로세스에서는 작은 데이터 패킷을 전송하고 해당 패킷이 도착했다는 확인을 받습니다.

대부분의 운영 체제는 디바이스에서 이 작업을 수행하는 ping 명령을 지원합니다. 왕복 시간(RTT)은 밀리초 단위로 표시되며 네트워크에서 데이터를 전송하는 데 걸리는 시간을 알려줍니다.  

네트워크 테스트 도구를 사용하거나 수동으로 처리량을 측정할 수 있습니다. 처리량을 수동으로 테스트하려면 파일을 전송하고 도착하는 데 걸리는 시간으로 파일 크기를 나누면 됩니다. 그러나 지연 시간과 대역폭은 처리량에 영향을 미칩니다. 이 때문에 많은 사람들이 네트워크 테스트 도구를 사용합니다. 도구가 대역폭 및 지연 시간과 같은 다른 요인과 함께 처리량을 보고하기 때문입니다.

네트워킹에서의 RTT에 대해 읽어보기 »

측정 단위

지연 시간을 밀리초 단위로 측정합니다. 밀리초 단위의 숫자가 낮으면 네트워크에서 약간의 지연만 발생하는 것입니다. 밀리초 단위의 숫자가 클수록 네트워크 성능이 느려집니다. 

원래는 네트워크 처리량을 초당 비트 수(bps)로 측정했습니다. 그러나 데이터 전송 기술이 발전함에 따라 이제 훨씬 더 높은 가치를 달성할 수 있습니다. 따라서 초당 킬로바이트(KBps), 초당 메가바이트(MBps), 심지어 초당 기가바이트(GBps) 단위로 처리량을 측정할 수 있습니다. 1바이트는 8비트와 같습니다. 

영향을 미치는 요인: 지연 시간과 처리량

다양한 요인이 지연 시간 및 처리량 지표에 영향을 미칠 수 있습니다.

대기 시간

지연 시간이 길거나 짧은 데에는 몇 가지 요인이 있습니다.

위치

가장 중요한 요소 중 하나는 데이터가 시작되는 위치와 의도된 목적지입니다. 서버가 장치와 지리적으로 다른 지역에 있는 경우 데이터가 더 멀리 이동해야 하므로 지연 시간이 길어집니다. 이 요인을 전파라고 합니다.

네트워크 정체

네트워크 정체는 네트워크를 통해 많은 양의 데이터가 전송될 때 발생합니다. 네트워크의 트래픽이 증가하면 패킷이 목적지까지 가는 경로가 길어집니다. 

프로토콜 효율성

일부 네트워크에는 보안을 위해 추가 프로토콜이 필요합니다. 추가 핸드셰이크 단계로 인해 지연이 발생합니다. 

네트워크 인프라

네트워크 장치가 과부하되어 패킷이 손실될 수 있습니다. 패킷이 지연되거나 손실되면 디바이스에서 패킷을 재전송합니다. 이로 인해 지연 시간이 늘어납니다. 

처리량

처리 속도는 다른 요인의 직접적인 영향을 받습니다.

대역폭

네트워크 용량이 전송 매체의 최대 대역폭에 도달하면 처리량이 해당 제한을 초과할 수 없습니다. 

처리 능력

특정 네트워크 디바이스에는 처리 성능을 향상시키는 특수 하드웨어 또는 소프트웨어 최적화가 있습니다. 몇 가지 예로는 전용 애플리케이션별 집적 회로 또는 소프트웨어 기반 패킷 처리 엔진이 있습니다.

이러한 최적화를 통해 디바이스는 더 많은 양의 트래픽과 더 복잡한 패킷 처리 태스크를 처리할 수 있으므로 처리량이 향상됩니다.

패킷 손실

패킷 손실은 네트워크 정체, 하드웨어 결함 또는 잘못 구성된 네트워크 디바이스 등 다양한 이유로 발생할 수 있습니다. 패킷이 손실되면 다시 전송해야 합니다. 이로 인해 지연이 발생하고 네트워크의 전체 처리량이 감소합니다.

네트워크 토폴로지

네트워크 토폴로지는 네트워크 디바이스의 수, 네트워크 링크의 대역폭, 네트워크 경로의 디바이스 간 거리를 나타냅니다.

잘 설계된 네트워크 토폴로지는 데이터 전송을 위한 다중 경로를 제공하고 트래픽 병목 현상을 줄이며 처리량을 증가시킵니다. 디바이스가 더 많거나 거리가 더 긴 네트워크에서는 많은 처리량을 달성하기 위해 복잡한 네트워크 토폴로지가 필요합니다.

대역폭, 지연 시간, 처리량 간의 관계

지연 시간과 처리량이 함께 작용하여 뛰어난 네트워크 연결성과 성능을 제공합니다. 둘 다 데이터 패킷 전송에 영향을 미치므로 서로에게도 영향을 줍니다.

네트워크 연결 시 지연 시간이 길면 데이터 전송 및 도착 시간이 더 오래 걸리기 때문에 처리량이 적어질 수 있습니다. 처리량이 적으면 대량의 데이터가 도착하는 데 시간이 더 오래 걸리기 때문에 네트워크의 지연 시간이 긴 것처럼 보일 수도 있습니다.

서로 밀접하게 연결되어 있으므로 높은 네트워크 성능을 달성하려면 지연 시간과 처리량을 모두 모니터링해야 합니다. 

대역폭 및 네트워크 처리량

대역폭은 네트워크를 통해 전송할 수 있는 총 데이터 양을 나타냅니다. 총 대역폭은 네트워크를 통해 전송할 수 있는 이론상 최대 데이터 양을 나타냅니다. 초당 메가바이트(MBps) 단위로 측정합니다. 대역폭은 네트워크의 이론상 최대 처리량이라고 생각하면 됩니다. 

대역폭은 전송할 수 있는 데이터의 양이고, 처리량은 실제 네트워크 제한에 따라 특정 순간에 전송할 수 있는 실제 데이터 양입니다. 큰 대역폭은 속도나 우수한 네트워크 성능을 보장하지 않지만 대역폭이 클수록 처리량이 많아집니다.

지연 시간과 처리량을 어떻게 개선할 수 있나요?

지연 시간을 개선하려면 소스와 대상 간의 전파를 줄입니다. 전체 네트워크 대역폭을 늘려 처리량을 개선할 수 있습니다.

다음으로 지연 시간과 처리량을 함께 개선하기 위한 몇 가지 제안을 드리겠습니다.

캐싱

네트워킹에서의 캐싱은 자주 액세스하는 데이터를 사용자와 지리적으로 가까운 곳에 저장하는 프로세스를 말합니다. 예를 들어 프록시 서버나 콘텐츠 전송 네트워크(CDN)에 데이터를 저장할 수 있습니다.

네트워크는 원래 소스에서 데이터를 검색해야 하는 경우보다 훨씬 빠르게 캐시된 위치에서 데이터를 전송할 수 있습니다. 그리고 사용자가 데이터를 훨씬 빠르게 수신하므로 지연 시간이 단축됩니다. 또한 캐시에서 데이터를 검색하므로 원본 소스의 부하가 줄어듭니다. 이를 통해 한 번에 더 많은 요청을 처리할 수 있어 처리량이 향상됩니다.

전송 프로토콜

특정 애플리케이션에 사용하는 전송 프로토콜을 최적화하여 네트워크 성능을 개선할 수 있습니다.

예를 들어 TCP와 UDP는 일반적인 두 가지 네트워크 프로토콜입니다. TCP는 연결을 설정하고 오류 없이 데이터를 수신하는지 확인합니다. 패킷 손실을 줄이는 것이 목표이기 때문에 TCP는 지연 시간이 더 길고 처리량이 더 많습니다. UDP는 패킷 손실이나 오류를 검사하지 않고 대신 여러 개의 중복 패킷을 전송합니다. 따라서 지연 시간은 최소화되지만 처리량은 더 많습니다.

사용 중인 애플리케이션에 따라 TCP와 UDP 중에서 더 적합한 것을 선택할 수 있습니다. 예를 들어 TCP는 데이터 전송에 유용하고 UDP는 비디오 스트리밍 및 게임에 유용합니다.

서비스 품질

서비스 품질(QoS) 전략을 사용하여 네트워크 성능을 관리하고 최적화할 수 있습니다. QoS를 사용하면 네트워크 트래픽을 특정 범주로 나눌 수 있습니다. 각 범주에 우선 순위 수준을 할당할 수 있습니다.

QoS 구성은 지연 시간에 민감한 애플리케이션의 우선 순위를 지정합니다. 일부 애플리케이션 및 사용자는 다른 애플리케이션보다 지연 시간이 짧습니다. 또한 QoS 구성은 유형별로 데이터의 우선 순위를 지정하여 패킷 손실을 줄이고 특정 사용자의 처리량을 늘릴 수 있습니다.

차이점 요약: 처리량과 지연 시간

 

처리량

지연 시간

무엇을 측정하나요?

처리량은 특정 기간 동안 네트워크를 통과하는 데이터의 양을 측정한 것입니다. 처리량은 일정 기간 동안 전송할 수 있는 데이터 양에 영향을 미칩니다.

지연 시간은 데이터를 전송할 때의 지연되는 시간을 측정한 것입니다. 지연 시간이 길면 네트워크 지연이 발생합니다.

어떻게 측정하나요?

파일을 보내거나 네트워크 테스트 도구를 사용하여 처리량을 수동으로 계산합니다.

핑 시간을 사용하여 지연 시간을 계산합니다.

측정 단위

초당 메가바이트(MBps) 

밀리초(ms)

영향을 미치는 요인

대역폭, 네트워크 처리 능력, 패킷 손실, 네트워크 토폴로지

지리적 거리, 네트워크 정체, 전송 프로토콜, 네트워크 인프라 

AWS는 네트워크 성능 요구 사항을 어떻게 지원할 수 있나요?

Amazon Web Services(AWS)에서는 네트워크 지연 시간을 줄이고 네트워크 처리량을 개선하기 위한 다양한 솔루션을 제공합니다. 요구 사항에 따라 다음 서비스를 구현할 수 있습니다.

  • Amazon CloudFront는 뛰어난 성능, 보안 및 개발자 편의를 위해 구축된 콘텐츠 전송 네트워크 서비스입니다. 이를 사용하여 짧은 지연 시간과 빠른 전송 속도로 안전하게 콘텐츠를 전송할 수 있습니다.
  • AWS Direct Connect는 더 일관되고 짧은 네트워크 지연 시간을 제공하기 위해 AWS에 직접 네트워크를 연결하는 클라우드 서비스입니다. 새 연결을 생성할 때 AWS Direct Connect 제공 파트너에서 제공하는 호스팅된 연결을 선택하거나 AWS에서 전용 연결을 선택하고 전 세계 100개가 넘는 AWS Direct Connect 위치에 배포할 수 있습니다.
  • AWS Global Accelerator는 AWS 글로벌 네트워크 인프라를 사용하여 사용자 트래픽의 성능을 최대 60% 개선하는 네트워킹 서비스입니다. 인터넷이 혼잡한 경우 AWS Global Accelerator는 경로를 최적화하여 패킷 손실, 지터 및 대기 시간을 일관적으로 낮게 유지합니다.
  • AWS 로컬 영역은 컴퓨팅, 스토리지, 데이터베이스 및 기타 엄선된 AWS 서비스를 대규모 모집단, 산업 센터와 더 가까운 위치에 배치하는 유형의 인프라 배포입니다. 짧은 지연 시간이 요구되는 혁신적인 애플리케이션을 최종 사용자 및 온프레미스 설치와 더 가까운 위치에서 제공할 수 있습니다.

지금 바로 계정을 생성하여 AWS에서 처리량과 지연 시간을 최적화해 보세요.