비동기-논블로킹 프로그래밍

• 전통적인 웹 방식 (스프링 MVC)

  • 전통적 웹 방식은 1개 요청당 1개의 스레드를 사용하는 Thread per Request 모델
  • 요청 당 스레드를 사용하는 방식은 DB, Network IO 등이 발생할 경우 결과를 받기전까지 해당 스레드는 블로킹 상태가 됨
  • 요청을 처리하기 위해 스레드를 생성하고 전환하는데 따른 비용이 발생
  • 요청에 따라 무한정 스레드를 생성할 수 없기 때문에스레드풀을 사용해 스레드를 재사용

  

• 비동기-논블로킹 방식

  • IO(DB, File, Network) 처리 시 스레드가 대기하지 않고 처리가 완료되면 다양한 방식으로 이벤트를 통지받는 방식 (콜백, 프로미스, async-await 등)
  • 스레드를 적게 쓰므로 하드웨어 자원을 더 적게 사용함
  • 순차적으로 동작하지 않고 콜백지옥으로 인해 가독성과 유지보수성이 떨어짐

• C10K 문제

  • 컴퓨터 과학에서 C10K 문제란 1만명의 사용자가 동시에 접속했을때(1만개의 소켓이 열림) 하드웨어가 충분함에도 기존의 I/O 통지 방식으로는 제대로 처리하지 못하는 것을 말함
  • Event-Loop을 사용해 해결
    • 커널 레벨에선 OS에서 제공하는 epoll, kqueue와 같은 통지 모델을 사용해 해결할 수 있다
    • 프로그래머는 로우레벨을 직접 다루지 않고 Netty, Node.js, Nginx, Vert.x 등을 사용한다

리액티브 프로그래밍

• 비동기-논블로킹을 처리하는 새로운 방식
• 리액티브 프로그래밍은 기본적으로 옵저버 패턴 처럼 데이터 제공자가 소비하는 측에 데이터를 통지하는 푸시 기반(Push-Based)
• 구현체에 따라서 풀과 푸시를 모두 제공하는 경우도 있음(Pull-Push Hybrid)
• 데이터의 통지, 완료, 에러 처리를옵저버 패턴에 영감을 받아 설계되었고 데이터의 손쉬운 비동기 처리를 위해 함수형 언어의 접근 방식을 사용

리액티브 스트림

• JVM 환경에서 리액티브 프로그래밍의 표준 API 사양으로비동기 데이터 스트림과논블로킹-백프레셔(Back-Pressure)에 대한 사양을 제공

• 리액티브 스트림 이전의 비동기식 애플리케이션에서는 멀티 코어를 제대로 활용하기 위해 복잡한 병렬 처리 코드가 필요

• 처리할 데이터가 무한정 많아져서 시스템의 한계를 넘어서는 경우 애플리케이션은병목 현상(bottleneck)이 발생하거나 심각한 경우 애플리케이션이 정지되는 경우도 발생할 수 있음(논블로킹-백프레셔로 해결)

• Netflix, Vmware(Pivotal), Lightbend, Red Hat과 같은 유명 회사들이 표준화에 참여 중

• 리액티브 스트림 인터페이스

  

  • Publisher : 데이터를 생성하고 구독자에게 통지

  • Subscriber : 데이터를 구독하고 통지 받은 데이터를 처리

  • Subscription : Publisher, Subscriber간의 데이터를 교환하도록 연결하는 역할을 하며 전달받을 데이터의 개수와 구독을 해지할 수 있다

  • Processor : Publisher, Subscriber을 모두 상속받은 인터페이스

  • 리액티브 스트림에서 Publisher와 Subscriber 간의 데이터 처리 흐름

    

    비동기 스트림 처리를 위한 표준으로써 next는 다음신호를 담고 complete는 신호가 끝난것 그리고 error은 신호보내는 도중 에러가 발생한 것을 의미한다.Publisher가 전송하면 데이터는 sequence 대로 전송한다. 그러면 Subscriber가 데이터를 수신한다.next, complete, error 신호를 발생시킨다.

프로젝트 리액터

• 스프링 에코시스템 범주에 있는 리액티브 스트림 구현체
• 리액티브 스트림에서 사용하는 용어와 규칙을 동일하게 사용하며 리액터만의 다양한 기능들도 제공