2월 10일 월요일: 7장(1) 스터디

[kwaksj329]

곽수정: link
유미라: link
윤태연: link
최선아: link

[choiseona]

트래픽, 네트워크, 네트워크 속도, 대역폭 이 정확히 뭘까? 뭐가 다를까?

[choiseona]

개념	정의	단위	비유	추가 설명
네트워크	여러 장치(컴퓨터, 서버 등)가 서로 연결된 시스템	없음	도로 전체	인터넷, LAN, WAN 등 다양한 형태가 있음
네트워크 속도	데이터를 전송하는 속도	Mbps, Gbps	자동차의 실제 주행 속도	다운로드 속도와 업로드 속도로 나뉨
트래픽	일정 기간 동안 전송된 총 데이터량	GB, TB	도로를 지나간 자동차의 수	과도한 트래픽은 속도 저하를 유발할 수 있음
대역폭	한 번에 전송할 수 있는 최대 데이터 용량	Mbps, Gbps	도로의 차선 수	대역폭이 크면 더 많은 데이터를 동시에 처리 가능

[kwaksj329]

선택적 피어링은 무엇이고 형제 캐시는 언제 사용되나요?

[kwaksj329]

선택적 피어링(Selective Peering)

• 두 네트워크 사업자가 서로의 트래픽을 교환하기로 합의하는 피어링 관계에서, 특정 조건이나 기준에 따라 트래픽 교환을 제한하는 방식
• 예를 들어 특정 지역이나 국가의 트래픽만 교환하거나, 특정 서비스나 프로토콜의 트래픽만 교환하도록 설정할 수 있음
• 이를 통해 네트워크 자원을 효율적으로 관리하고 보안을 강화할 수 있음

형제 캐시(Sibling Cache)

• 여러 캐시 서버가 동일한 계층에 있을 때 서로의 콘텐츠를 공유하는 방식
• 주로 다음과 같은 상황에서 사용됨
  1. 지리적으로 분산된 캐시 서버들 간에 콘텐츠를 공유하여 응답 시간을 줄이고자 할 때
  2. 특정 캐시 서버의 부하가 높을 때 다른 형제 캐시로 요청을 분산시키고자 할 때
  3. 원본 서버의 부하를 줄이기 위해 캐시 서버들 간에 먼저 콘텐츠를 찾고자 할 때

e.g. 서울과 부산에 각각 캐시 서버가 있다면, 서울의 사용자가 요청한 콘텐츠가 서울 서버에 없지만 부산 서버에 있는 경우 원본 서버까지 가지 않고 부산 서버에서 콘텐츠를 가져올 수 있음

[kwaksj329]

넷플릭스의 무정산 피어링

https://about.netflix.com/ko/news/settlement-free-peering

선택적 피어링:
특정 조건에 따라 트래픽 교환을 선별적으로 하는 것
어떤 트래픽을 주고받을지 선택하는 개념

무정산 피어링:
돈을 주고받지 않고 서로 트래픽을 교환하는 것
전 세계 피어링의 99.9996%가 이 방식 사용

• SK브로드밴드는 넷플릭스와 2016년부터 무정산 피어링 중
  • 시애틀 IX(SIX)에서 시작
  • 돈을 받지 않고 트래픽 교환
• 왜 이렇게 할까?
  • SK브로드밴드: 국제 트래픽 비용 절감
  • 넷플릭스: 한국 사용자에게 콘텐츠 잘 전달 가능
  • 양쪽 모두에게 이득이 되는 구조
• 현재 상황:
  • SK브로드밴드는 넷플릭스 외에도 많은 해외 업체들과 무정산 피어링 중
  • PeeringDB에 공개적으로 무정산 피어링 의사 표시

[ssum1ra]

HTTP는 형제 캐시를 지원하지 않으므로 ICP나 HTCP로 확장된다.

ICP와 HTCP란?

[ssum1ra]

ICP와 HTCP는 단일 서버-클라이언트 통신 모델을 기반으로 한 HTTP의 캐시 서버 간 협력 메커니즘 부재를 해결하기 위해 개발된 프로토콜. 이들은 분산된 캐시 서버들 간의 효율적인 통신을 가능하게 한다.

1. ICP (Inter-Cache Protocol)

ICP는 인터넷 캐시(proxy cache) 간에 협업을 위한 프로토콜이다. 여러 개의 캐시 서버가 있을 때, 특정 데이터를 어느 캐시에서 가져올지 빠르게 결정하기 위해 사용된다.

🔹동작 방식

• 한 캐시 서버가 다른 캐시 서버들에게 ICP 요청을 보낸다.
• 응답을 받은 후 가장 적절한 캐시에서 데이터를 가져온다.
• 만약 어떤 캐시에도 없으면 원본 서버(origin server)에서 가져온다.

🔹 특징

• 프록시 서버 간 부하 분산(load balancing) 가능
• 요청을 분산하여 대역폭 절약
• CDN(콘텐츠 전송 네트워크)에서도 사용됨

2. HTCP (Hyper Text Caching Protocol

HTCP는 ICP의 확장된 버전으로, HTTP 캐싱을 더 정교하게 관리하는 프로토콜이다.

🔹 HTCP의 주요 기능

• ICP보다 더 상세한 캐시 정보 교환
• 캐시된 콘텐츠가 최신인지 확인 가능 (ICP는 단순히 존재 여부만 확인)
• 보안 강화 (ICP는 암호화되지 않지만 HTCP는 가능)

🔹 HTCP vs ICP

비교 항목	ICP	HTCP
기본 목적	캐시 서버 간 콘텐츠 존재 여부 확인	캐시 서버 간 콘텐츠 및 메타데이터(최신 상태 등) 교환
전송 프로토콜	UDP	TCP/UDP
기능 범위	기본적 (존재 여부만 확인)	확장적 (메타데이터 포함)
보안	암호화 없음	암호화 가능
메타데이터 지원	미지원	지원 (수정시간, 만료시간 등)
통신 속도	매우 빠름	ICP 대비 다소 느림
신뢰성	낮음 (UDP 특성)	높음 (TCP 사용 시)
사용 목적	캐시 간 협업	HTTP 캐싱 최적화

HTCP는 Squid Proxy 같은 프록시 서버에서 ICP보다 더 정교한 캐싱 정책을 위해 사용된다.

[rhino-ty]

넷플릭스와 유튜브는 ICP/HTCP 대신 자체 개발한 콘텐츠 전송 프로토콜을 사용.

넷플릭스

• Open Connect Appliance(OCA)
• 자체 캐싱/피어링 프로토콜
• ISP 데이터센터에 직접 설치

유튜브/구글

• Google Global Cache(GGC)
• QUIC/BBR 같은 자체 프로토콜
• 독자적인 콘텐츠 분배 알고리즘

대규모 서비스들은 일반적으로 자신들의 특수한 요구사항에 맞춘 독자적인 프로토콜을 개발해 사용하는 경우도 대다수.

[rhino-ty]

현재 웹 개발자가 만들거나 적용할 수 있는 캐싱 도구는 뭐가 있을까요?

[rhino-ty]

브라우저 레벨 캐싱

• HTTP 캐시 헤더
  • Cache-Control, ETag, Last-Modified 헤더 활용
  • Nginx/Apache 서버 설정으로 제어
  • 구현 예시:

location /static/ {
    expires 30d;
    add_header Cache-Control "public, no-transform";
}
# or
location /images/ {
    expires 7d;  # 이미지를 7일간 캐시
    add_header Cache-Control "public";
}

애플리케이션 레벨 캐싱

• Redis
  • 인메모리 데이터 스토어
  • 세션 저장, API 응답 캐싱에 적합
  • Node.js 예시:

const Redis = require('ioredis');
const redis = new Redis();

async function cacheMiddleware(req, res, next) {
    const key = req.originalUrl;
    const cached = await redis.get(key);
    
    if (cached) {
        return res.json(JSON.parse(cached));
    }
    next();
}

• Memcached
  • 분산 메모리 캐싱 시스템
  • 대규모 데이터 캐싱에 적합
  • Python Django 예시:

from django.core.cache import cache

def get_expensive_data(user_id):
    cache_key = f'user_data_{user_id}'
    data = cache.get(cache_key)
    
    if data is None:
        data = expensive_database_query(user_id)
        cache.set(cache_key, data, timeout=3600)
    
    return data

CDN 레벨 캐싱

• Cloudflare

  • 정적 자원 자동 캐싱
  • Page Rules로 캐싱 규칙 설정

• AWS CloudFront

  • 글로벌 엣지 로케이션 활용
  • 정적/동적 콘텐츠 모두 캐시 가능

프록시 캐시 서버

• Varnish
  • 고성능 HTTP 가속기
  • VCL로 상세한 캐시 정책 설정

sub vcl_recv {
    if (req.url ~ "\.(jpg|jpeg|png|gif)$") {
        return(hash);
    }
}

• Squid
  • 오픈소스 캐싱 프록시
  • 계층형 캐싱 구성 가능

React Query 등도 캐싱의 일종으로 볼 수 있음