Giao tiếp hiệu quả giữa các Microservice

Lựa Chọn Giữa http/1.1 Và gRPC. TL; DR: Use gRPC

Làm thế nào mà việc giao tiếp giữa các microservice lại gây ảnh hưởng đến hiệu suất và khả năng mở rộng của ứng dụng. Giao tiếp giữa các dịch vụ có thể đồng bộ hoặc không. Đối với bài viết này, chúng tôi sẽ tập trung vào sự đồng bộ. Theo ý kiến cá nhân của chúng tôi thì có 2 giao thức phổ biến:

HTTP/1.1: giao thức http mặc định
gRPC: cuộc gọi thủ tục từ xa với hiệu suất cao (RPC framework). gRPC.io hoạt động dựa vào tài liệu toàn diện của mình.

Hãy thử xem một số code mẫu và chạy thử một số thử nghiệm hiệu suất để xem thử các lựa của chúng tôi

Chế Độ Non-cluster

Cùng bắt đầu với một mô hình nhỏ và cố gắng nhận một cuộc trò chuyện microservice với một bên khác.

Sơ đồ cấu trúc ứng dụng đơn giản

Ứng dụng của chúng tôi bao gồm các thành phần:

Load Testing tool: jMeter
Service A: Đưa ra yêu cầu cho service B và trả về phản hồi đó.
Service B: Trả lời bằng static JSON sau 10ms cho tất cả các API
VMs: Cả hai VM đều là máy Amazon EC2 t2.xlarge

HTTP / 1.1

Đây là yêu cầu mặc định mà chúng tôi thực hiện khi sử dụng bất kỳ thư viện HTTP client nào như axios, superagent.

Hãy tạo ServiceB để triển khai API của chúng tôi.

server.route({
  method: 'GET',
  path: '/',
  handler: async (request, h) => {
    const response = await new Promise((resolve) => {
      setTimeout(() => {
        resolve({
          id: 1,
          name: 'Abhinav Dhasmana',
          enjoys_coding: true,

        });
      }, 10);
    });
    return h.response(response);
  },
});

Service B triển khai HTTP / 1.1

Tiếp theo, chúng tôi tạo serviceA gọi serviceB bằng HTTP / 1.1

server.route({
  method: 'GET',
  path: '/',
  handler: async (request, h) => {
    try {
      const response = await Axios({
        url: 'http://localhost:8001/',
        method: 'GET',
      });
      return h.response(response.data);
    } catch (err) {
      throw Boom.clientTimeout(err);
    }
  },
});

Service A triển khai HTTP/1.1

Với hai service đang chạy này chúng tôi có thể kích hoạt jMeter để thử nghiệm hiệu năng. Chúng tôi sẽ sử dụng 50 người dùng với 2000 yêu cầu mỗi người. Chúng ta có thể thấy trong ảnh chụp màn hình bên dưới trung bình của chúng là 37ms.

Kết quả hoạt động của HTTP / 1.1 ở chế độ Non-cluster

gRPC

gRPC sử dụng protocol buffers theo mặc định. Ngoài serviceA và serviceB, chúng tôi còn cần thêm một file proto sẽ xác định cuộc gọi từ xa của chúng tôi.

syntax = "proto3";

service SampleDataService {
  rpc GetSampleData (Empty) returns (SampleData) {}
}

message SampleData {
  int32 id = 1;
  string name = 2;
  bool enjoys_coding = 3;
}

message Empty {}

File proto cho tiếp xúc với RPC

Hãy triển khai lại serviceB, lần này hãy sử dụng gRPC

const grpc = require('grpc');

const proto = grpc.load('serviceB.proto');
const server = new grpc.Server();

const GetSampleData = (call, callback) => {
  setTimeout(() => {
    callback(null, {
      id: 1,
      name: 'Abhinav Dhasmana',
      enjoys_coding: true,
    });
  }, 10);
};

server.addService(proto.SampleDataService.service, {
  GetSampleData,
});

const port = process.env.PORT;
console.log('port', port);

server.bind(`0.0.0.0:${port}`, grpc.ServerCredentials.createInsecure());

server.start();
console.log('grpc server is running');

Service B khi triển khai gRPC

Vài điều cần lưu ý:

Chúng tôi tạo máy chủ grpc ở line 4
Chúng tôi thêm một service vào máy chủ của mình ở line 16
Chúng tôi liên kết port và cedentials ở line 23

serviceA được triển khai bằng cách sử dụng gRPC bên dưới

onst protoPath = `${__dirname}/../serviceB/serviceB.proto`;
const proto = grpc.load(protoPath);

const client = new proto.SampleDataService('localhost:8001', grpc.credentials.createInsecure());
const getDataViagRPC = () => new Promise((resolve, reject) => {
  client.GetSampleData({}, (err, response) => {
    if (!response.err) {
      resolve(response);
    } else {
      reject(err);
    }
  });
});

server.route({
  method: 'GET',
  path: '/',
  handler: async (request, h) => {
    const allResults = await getDataViagRPC();
    return h.response(allResults);
  },
});

Service A khi triển khai gRPC

Một số ghi chú:

Chúng tôi tạo client grpc tại line 4
Chúng tôi tựực hiện một cuộc gọi từ xa tại line 6

Hãy chạy thử nghiệm công cụ jMeter một lần nữa.

Kết quả hoạt động của gRPC ở chế độ Non-cluster

Như chúng ta có thể thấy từ dữ liệu này, gRPC nhanh hơn 27% so với yêu cầu HTTP / 1.1 thông thường.

Cấu Trúc Ứng Dụng Trong Chế Độ Cluster

Cấu trúc ứng dụng

Nếu bạn đang chạy bất cứ thứ gì trong quá trình sản xuất, rất có thể bạn đang chạy nhiều phiên bản của bất kỳ dịch vụ cụ thể nào. Trong trường hợp này, chúng ta đang thực hiện các thay đổi sau:

Chạy ba phiên bản dịch vụ của chúng tôi trên các cổng khác nhau
Chúng tôi đang sử dụng NGINX tạo sự cân bằng tải.

HTTP/1.1

Không có thay đổi được yêu cầu từ phía dịch vụ. Tất cả chúng ta cần làm đó là cấu hình nginx để cân bằng lưu lượng tải với serviceB. Chúng tôi có thể sửa đổi /etc/nginx/sites-available/default giống như bên dưới

upstream httpservers {
   server ip_address:8001; 
   server ip_address:8002; 
   server ip_address:8003; 
}
server {
   listen 80; 

   location / {
      proxy_pass http://httpservers;
   }
}

nginx với HTTP/1.1

Bây giờ chúng ta có thể bắt đầu với 3 phiên bản dịch vụ của chúng tôi và chạy thử nghiệm hiệu suất của chúng.

Kết quả hoạt động của HTTP / 1.1 ở chế độ Cluster

gRPC

Hỗ trợ cho gRPC gần đây đã được thêm vào nginx phiên bản 1..13.10. Vì thế chúng ta cần sử dụng bản mới nhất vì sudo apt-get install nginx mặc định sẽ không thể hoạt động.

Chúng tôi không sử dụng node trong chế độ cluster vì gRPC không được hỗ trợ.

Thực hiện các bước dưới đây để có được nginx mới nhất.

sudo apt-get install -y software-properties-common
sudo add-apt-repository ppa:nginx/stable
sudo apt-get update
sudo apt-get install nginx

Nhận ngay phiên bản nginx mới nhất

Chúng tôi cũng sẽ cần các chứng chỉ ssl. Chúng tôi có thể tạo các chứng chỉ tự ký bằng openSSL

openssl req -x509 -newkey rsa:2048 -nodes -sha256 -subj '/CN=localhost' \
  -keyout localhost-privatekey.pem -out localhost-certificate.pem

Lệnh tạo chứng chỉ tự ký

Tiếp theo, chúng ta cần thay đổi tệp /etc/nginx/sites-available/default để bắt đầu sử dụng gRPC.

upstream grpcnodes {
    server ip_address:8001;
    server ip_address:8002;
    server ip_address:8003;
}
server {

    listen 1443 http2;
	  ssl_certificate /home/ubuntu/interserviceCommunication/http2/certificates/localhost-certificate.pem;
          ssl_certificate_key /home/ubuntu/interserviceCommunication/http2/certificates/localhost-privatekey.pem;

	  location / {
                grpc_pass grpcnodes;
##		try_files $uri $uri/ =404; // Don't forget to comment this else you will get 404 as a response
	}

Chính là nó. Hãy chạy thử nghiệm hiệu suất một lần nữa

Kết quả hoạt động của gRPC ở chế độ non cluster

Như chúng ta có thể thấy gRPC nhanh hơn 31% so với HTTP / 1.1

Kết Luận

gRPC thì nhanh. Trong các bản thử nghiệm ở trên, chúng ta có thể thấy nó nhanh hơn 31% so với HTTP / 1.1 chỉ bằng cách thay đổi cách mà chúng tôi trao đổi.

Những mã nguồn này có thể tìm thấy trên GitHub

Topdev via ITNEXT

====

Tuy nhiên, đối với những dự án cần một số yếu tố như tốc độ truyền thông cao và độ trễ thấp, truyền dữ liệu kiểm stream, các hãng công nghệ lớn thường có xu hướng chuyển đổi sang một framework RPC mới dựa trên protobufs và HTTP/2 của Google là gRPC API.

Tại buổi meetup ngày 14/01/2020 với chủ đề “Migrating APIs from REST to gRPC and LOOP Case study” do anh Việt Nguyễn – CTO | LOOP trình bày, hứa hẹn sẽ mang đến những giải pháp cho vấn đề giao tiếp giữa các services từ chính trường hợp của LOOP.

Tham gia ngay buổi meetup để trao đổi chi tiết hơn cùng cộng đồng IT và chuyên gia đến từ LOOP ngay nhé!

= = =
**Nhập ngay code EARLYBIRD@1401 để giảm 100.000đ cho các vé đầu tiên
⏰ Thời gian: 18:30 – 21:00 ngày 14/01/2020
📌 Địa điểm: UP Bách Khoa Hà Nội, tầng 3 toà nhà A1-7, 17 Tạ Quang Bửu, HBT.
🎟 Đăng ký ngay tại: https://meetup.vn/e/F3S

===

LIÊN HỆ

Event team: [email protected] | 028 6681 3236
Ms. Thoa | [email protected] | 038 5098 969
=== Sự kiện thuộc chuỗi PRODUCT IN REAL LIFE hằng tuần được tổ chức bởi TopDev – Giải pháp tuyển dụng ngành IT ===

B BenQ RD Series – Dòng Màn Hình Lập Trình 4k+ Đầu Tiên Trên Thế Giới
by Ban Biên Tập TopDev 1 month ago | open comments
i iOS 18 có gì mới? Có nên cập nhật iOS 18 cho iPhone của bạn?
by Ban Biên Tập TopDev 2 months ago | open comments
G Gamma AI là gì? Cách tạo slide chuyên nghiệp chỉ trong vài phút
by Ban biên tập TopDev 2 months ago | open comments
P Power BI là gì? Vì sao doanh nghiệp nên sử dụng PBI?
by Ban Biên Tập TopDev 2 months ago | open comments
K KICC HCMC x TOPDEV – Bước đệm nâng tầm sự nghiệp cho nhân tài IT Việt Nam
by Ban biên tập TopDev 2 months ago | open comments
T Trello là gì? Cách sử dụng Trello để quản lý công việc
by Ban Biên Tập TopDev 2 months ago | open comments
T TOP 10 SỰ KIỆN CÔNG NGHỆ THƯỜNG NIÊN KHÔNG NÊN BỎ LỠ
by Ban biên tập TopDev 2 months ago | open comments
T Tìm hiểu Laptop AI – So sánh Laptop AI với Laptop thường
by Ban biên tập TopDev 2 months ago | open comments
M MySQL vs MS SQL Server: Phân biệt hai RDBMS phổ biến nhất
by Ban Biên Tập TopDev 3 months ago | open comments
S SearchGPT là gì? Công cụ tìm kiếm mới có thể đánh bại Google?
by Ban Biên Tập TopDev 3 months ago | open comments