0985538080

Lời giải cho ứng dụng GenAI trong ngân hàng và sức mạnh tổng hợp từ Viettel Kubernetes

Thứ sáu, 19/07/2024 - 03:07 (GMT + 7)

Để phá vỡ rào cản khiến doanh nghiệp trong lĩnh vực ngân hàng tài chính còn e ngại ứng dụng Gen AI, Viettel đã phối hợp chặt chẽ với các BigTech, triển khai các sản phẩm dịch vụ hỗ trợ doanh nghiệp có thể sớm khai phá tiềm năng của Gen AI, ứng dụng vào hoạt động sản xuất kinh doanh.

Ba rào cản khi ứng dụng GenAI trong ngân hàng

Trí tuệ nhân tạo tạo sinh (Generative AI - GenAI) đã mở ra những cánh cửa mới của trí tuệ nhân tạo, mang lại những đột phá lớn trong nhiều lĩnh vực, đặc biệt là trong ngành tài chính ngân hàng. Theo một báo cáo của McKinsey về giá trị của AI tạo sinh trong ngân hàng, GenAI có tiềm năng mang lại giá trị mới tới 340 tỷ đô la chỉ trong ngành ngân hàng so với AI truyền thống.

Gần đây, Tổng Công ty Giải pháp Doanh nghiệp Viettel (Viettel Solutions) - Thành viên Tập đoàn Công nghiệp - Viễn thông Quân đội (Viettel) đã tổ chức Hội thảo Sự bùng nổ Gen AI trong lĩnh vực tài chính ngân hang với sự tham dự của nhiều chuyên gia tới từ các ngân hàng, tổ chức tài chính lớn và các công ty công nghệ toàn cầu, cùng chia sẻ tri thức, kinh nghiệm và câu chuyện về trí tuệ nhân tạo tạo sinh (Generative AI hay AI tạo sinh) và Cloud trong lĩnh vực tài chính ngân hàng.

9b25d0f8a75904075d48
Tại hội thảo, các chuyên gia cho rằng, dù đã có nhiều usecase ứng dụng tốt vào lĩnh vực tài chính ngân hàng như trợ lý ảo, tự động hóa quy trình nghiệp vụ, đánh giá rủi ro, cảnh báo lừa đảo, định danh khách hàng… song, GenAI vẫn chưa được các tổ chức tài chính - ngân hàng triển khai phổ biến ở Việt Nam. Theo đại diện của Viettel AI nhận định có 3 rào cản chính.

Một là, GenAI là công nghệ rất mới nên nhiều tổ chức có sự e ngại nhất định trong việc đầu tư ứng dụng công nghệ.

Thứ hai, cơ sở hạ tầng nhiều lớp cũng đặt ra một thách thức khác đối với GenAI vì loại AI này phụ thuộc rất nhiều vào cơ sở dữ liệu, trong khi ngành ngân hàng thường có hạn chế truy cập vào dữ liệu ngân hàng và thông tin bảo mật.

Thứ ba là rào cản đến từ các nền tảng hiện có của doanh nghiệp. Trước đây, doanh nghiệp triển khai các hệ thống rất lớn, riêng biệt, phân tán, nhưng xu thế hiện nay là tất cả các hệ thống phải tập trung, chia sẻ dữ liệu lẫn nhau để phân tích các bài toán, đưa ra các use case.

Lời giải đến từ đâu?

Để phá vỡ những rào cản này, Viettel Solutions đã phối hợp chặt chẽ với các BigTech, triển khai các sản phẩm dịch vụ hỗ trợ doanh nghiệp trong lĩnh vực ngân hàng tài chính có thể sớm khai phá tiềm năng của Gen AI, ứng dụng vào hoạt động sản xuất kinh doanh.

Ông Nguyễn Trọng Vĩnh - Giám đốc Công nghệ Nền tảng Cloud Viettel Solutions chia sẻ, thời gian vừa qua, Viettel Solutions và ông lớn công nghệ NVIDIA đã có nhiều dự án phối hợp để giải quyết các vấn đề cả về hạ tầng phần cứng, phần mềm và quy trình ứng dụng AI.

Viettel Cloud hiện đang sở hữu hạ tầng điện toán đám mây lớn nhất và đa dạng nhất Việt Nam đã được Uptime chứng nhận tiêu chuẩn Tier III với 14 data center (trung tâm dữ liệu) có khả năng cung cấp 11.500 racks và lộ trình năm 2025 dự kiến sẽ nâng lên 17 data center với khả năng cung cấp 18000 racks. Năm 2030, mục tiêu đạt 24 data center và 36.000 racks.

Với hạ tầng số trải khắp Bắc - Trung - Nam, Viettel sẵn sàng cung cấp đầy đủ dịch vụ từ lớp hạ tầng, đến nền tảng cho tới lớp ứng dụng.

Để đáp ứng được các xu hướng trong thời gian tới, Viettel Solutions cho biết sử dụng mô hình tham chiếu từ các công ty công nghệ lớn trên thế giới, và đã ra mắt giải pháp VKE (Viettel Kubernetes Engine) tích hợp GPU.

Viettel Kubernetes (còn gọi là Container as a Service - CaaS) là nền tảng Kubernetes được triển khai trên hạ tầng Public Cloud mạnh mẽ của Viettel IDC, cung cấp một môi trường ảo hóa ở lớp OS (Operation System) hoàn chỉnh, cho phép người dùng phát triển, kiểm thử, triển khai và phân phối các ứng dụng của mình trên nền tảng Kubernetes. Viettel Kubernetes định nghĩa ở lớp PaaS trong mô hình dịch vụ Cloud, sử dụng nền tảng Kurbenetes tạo ra 1 lớp ảo hóa “trừu tượng”, cô lập riêng biệt các ứng dụng, bao gồm mọi thứ cần thiết để chạy ứng dụng (mã nguồn, các thư viện runtime, …) đều sử dụng chung hệ điều hành duy nhất (Host OS) thay vì ảo hóa phần cứng và tạo ra nhiều máy chủ ảo chứa nhiều phiên bản OS khác nhau.

 Đi sâu về Kubernetes, ông Vĩnh chỉ ra những lợi điểm như hệ thống được triển khai trên kubernetes có thể tự load balancing (cân bằng tải), tự san tải ứng dụng một cách dễ dàng; ứng dụng chạy trên Kubernetes của Viettel Cloud có thể triển khai trên nhiều tầng lưu trữ khác nhau... Triển khai mạng lưới ứng dụng, nếu phát hiện ra vấn đề, hệ thống có khả năng tự tạo ra vùng chứa mới; loại bỏ các vùng chứa hiện có và chuyển tất cả tài nguyên của chúng sang vùng chứa mới; hệ thống cũng có thể dễ dàng phục hồi sau sự cố…

WhatsApp Image 2024-07-17 at 10.39.32

VKE nằm trong tổng hoà hệ sinh thái Viettel Cloud sử dụng sức mạnh của các thành tố, dịch vụ khác như sever tính toán, an toàn bảo mật, lưu trữ, giám sát cảnh báo…

Hệ thống VKE tích hợp GPU sẽ mở rộng tài nguyên linh hoạt trên đám mây Viettel, tối ưu hóa việc sử dụng tài nguyên GPU: Phân bổ ứng dụng AI/ML dựa trên nhu cầu, hỗ trợ khả năng phục hồi cho khối lượng công việc AI/ML trong trường hợp lỗi phần mềm và phần cứng. Kubernetes như một môi trường được tiêu chuẩn hóa tạo điều kiện cho việc phát triển và triển khai mô hình AI/ML trên nhiều môi trường và nền tảng đám mây khác nhau.

Bên cạnh VKE, Viettel cũng cung cấp các giải pháp trí tuệ nhân tạo AI, học máy ML để đáp ứng nhu cầu của các doanh nghiệp, đặc biệt là lĩnh vực tài chính ngân hàng.

Đại diện Viettel cũng giới thiệu việc triển khai Lakehouse trên nền tảng Kubernetes Engine kết hợp các công nghệ tiên tiến để thu thập, xử lý, lưu trữ, và phân tích dữ liệu từ nhiều nguồn khác nhau. Với sự tích hợp của các công cụ DevOps, quản trị và bảo mật, kiến trúc này cung cấp một hệ thống dữ liệu mạnh mẽ và linh hoạt cho doanh nghiệp.

Vì kubernetes là nền tảng mở, Viettel Cloud có thể cung cấp các mô hình khác nhau có thể sử dụng VKE để doanh nghiệp có thể lựa chọn giải pháp phù hợp

Nếu doanh nghiệp có hiểu biết và nền tảng về công nghệ với nhu cầu tinh chỉnh hệ thống, Viettel cung cấp mô hình phù hợp để doanh nghiệp có thể chủ động triển khai, kiểm soát.

Với mô hình Kubernetes có các thành phần điều khiển của VKE do Viettel quản trị vận hành, doanh nghiệp có thể lựa chọn thuê dịch vụ quản trị hạ tầng, và tập trung toàn bộ lực lượng của họ vào hoạt động xây dựng phát triển ứng dụng.

“Chúng tôi trong thời gian sắp tới sẽ cam kết rất mạnh mẽ vào việc xây dựng các data center, cung cấp các sản phẩm dịch vụ cloud và hỗ trợ các bài toán AI Machine Learning dành cho lĩnh vực tài chính ngân hàng” - ông Vĩnh khẳng định.

Với quan điểm muốn đi nhanh thì đi một mình, muốn đi xa thì đồng hành cùng nhau, Viettel nhấn mạnh luôn sẵn sàng đồng hành cùng các tổ chức, doanh nghiệp đưa công nghệ mới, các giải pháp chuyển đổi số ưu việt, giúp tối ưu giá trị và tạo ra sự khác biệt, các dịch vụ mới trên hành trình khai phóng tiềm năng số.