구축사례
Build-up Case

BigData

홈 > 구축사례 > BigData
BigData & IOT 다양한 기기의 로그 수집서버 성능 테스트

요구사항

A 기업에서는 다양한 디지털 기기에서 기록된 로그를 빅데이터 분석을 위하여 AWS(Amazon Web Services)로 수집하고 수집된 로그는 EMR(Elastic MapReduce)를 통하여 다양한 분석을 하고 자 하며, 수십만대의 디지털 기기의 로그를 수집하기 위한 글라우드 서비스인 AWS를 활용하고 AWS의 최적의 아키텍처 구성과 향후 증가되는 디지털 기기에 따라 EC2의 적절한 개수를 파악하고자 성능테스트 요청하였습니다.
이를 위해서 로그 수집 서버의 Peak Time시 예상되는 적정 처리 건수와 최대 처리 건수를 확인하고 시스템 성능 관련 이슈가 존재하는지 확인하여 이슈 또는 문제 해결을 유도하여 해결하며, 운영에 필요한 용량 산정의 근거 데이터 제공을 목적으로 성능테스트를 진행하였습니다.

성능 테스트 요건
  • AWS EC2 최적의 Instance Type 및 개수 산정
  • 목표 대비 최대 시스템 처리량
  • SW Load Balancer 용량 산정
  • 과부하시(이상현상 점검), 장시간 Test, OS Parameter 점검(OS 튜닝)
  • 24시간의 장시간 자원 누수 확인
아키텍처 구성도
아키텍처 구성도

계획 및 설계

단위 테스트를 통한 구간별 성능 분석 및 개선 방향 제시

  • 일일 최대 Weblog 발생 786G 예상 (기기 당 로그 크기: 18.2K 예상)
  • 현 단말 1일 로그 저장량 : 16.5G
  • 대상 단말 예상 TPS : 786G * 5(압축률 80%) / 18.2K (24h / 60m /60s) = 2,620 TPS
  • 보정치 적용 : 2,620 TPS * 130% = 3,406 TPS (보정치 적용 목표치)
  • 로그 수집 대상 호출이 2회 발생으로 6,813 TPS 로 최종 목표로 함.

테스트 수행 결과 및 개선 내용

이슈 TIME-WAIT 문제
부하량이 증가할 수록 서버대 서버의 통신 과정에서 지속적인 TIME_WAIT 증가 현상이 확인되었습니다. 이는 보통 HTTP 통신으로 인한 Keep-alive 옵션과 관련이 있고, Keep-Alive옵션을 Off로 설정하여야지만 Time-Wait 증가를 방지 할 수 있습니다.
Time-Wait 증가로 인한 응답시간 지연

제니퍼소프트 제니퍼 X-Veiw 모니터링 화면
Time-Wait 증가 현상 (Netstat 확인 결과)
로그 크기에 따른 성능 측정 결과
로그 크기에 증가에 따라 EC2(c1.xlarge)의 성능 차이의 확인한 결과, 비율적으로 성능이 감소하는 것으로 확인되었습니다.
따라서, 로그 크기의 영향력이 서버 성능에 대부분을 차지한다고 볼 수 있습니다.



향후 증가되는 기기의 일일 예상 트래픽에 따라 필요한 EC2 서버 대수는 1년후에 12대까지 증설이 필요합니다.

용량 산정 근거

IoT Performance Testing, 사물인터넷에서의 성능테스트

오늘날 IoT(사물인터넷)은 물건 제품뿐만이 아니라 동물, 식물에 이르기 까지 다양한 곳까지 인터넷이 연결되어지면서 급속도로 증가되고 있습니다. 사물인터넷이 멀게만 느껴지는 것은 아니며, 현재 사물인터넷의 기술은 우리가 생활 속에서도 흔하게 접하고 있습니다.

예를 들면 , 버스도착알림 시스템도 수많은 버스의 위치정보를 네트워크를 통하여 서버로 전송되고 다양한 형태의 정보를 실시간으로 포털사이트나 스마트앱등으로 서비스를 제공하고 있습니다. 혹시라도 버스의 도착알림 서비스에 문제로 인해 늘 제공되어 받던 알림 서비스를 하루라도 제공 받지 못한다면, 왠지 답답하고 손해 보는 느낌이 들 수 있습니다. 이렇게 다가온 사물인터넷이 재대로 서비스 되고 가치 있는 정보를 활용이 되려면 다양한 IT 기술이 접목되어야 합니다. 데이터를 정보로 실시간 처리하기 위해서는 빠른 인터넷 네트워크 환경이 필요하고, 또한 데이터를 가공, 추출, 처리, 판단, 분석을 위해서는 클라우드 서비스나, 빅데이터 분석등의 기술도 필요합니다.

사물인터넷은 다양하고 복잡해지는 IT 기술에는 수 많은 결함들이 잠재 되어 있고, 그중 성능이슈가 내재된 결함을 제거하고 정확하고 빠른 정보를 제공하기 위해서 정량적 분석에 따른 성능테스트를 반드시 실시하여야만, 적절한 클라우드 서버의 수량을 산정할 수 있으며, 서버의 아키텍처 구조에 대해서 검증이 이루어 질 수 있고, 나아가 서버의 용량을 산정하기 위한 명확한 근거를 확보할 수 있습니다.

정략적 성능테스트는 사물인터넷에 연결된 모든 IT기기의 접속 패턴과 데이터 크기 등을 분석하여 수치화된 목표 근거를 가지고 성능테스트를 하는 것을 의미하며, 목표 근거가 명확해야 테스트의 결과를 판단하여 용량 산정, 아키텍처 검증등을 할 수 있게 됩니다.

앞으로 사물인터넷은 점점 더 우리의 생활 속으로 수많은 데이터와 정보로 제공될 것이며, 이 속에서 결함을 최소화하고 안정된 서비스는 물론, 최적의 환경을 최소 비용으로 서비스 하기 위해서는 성능테스트가 반드시 필요합니다.