Trang chủ Thế kỷ của não bộ Công nghệ Hé lộ mức phí khổng lồ để ChatGPT trả lời trơn tru...

Hé lộ mức phí khổng lồ để ChatGPT trả lời trơn tru câu hỏi của người dùng

Mức phí đáng kể này cũng là lý do mới đây OpenAI đã ra mắt dịch vụ ChatGPT Pro dành cho người dùng trả phí hàng tháng.

 

Khả năng trả lời lưu loát như người thật của ChatGPT đang làm người dùng toàn cầu thích thú trò chuyện với chatbot AI này mỗi ngày. Thế nhưng có một thực tế ít người biết đằng sau mỗi câu trả lời của ChatGPT là một khoản phí không nhỏ mà OpenAI – công ty khai sinh ra chatbot này – đang phải gồng gánh mỗi ngày.

Không giống như các dịch vụ web thông thường, vận hành một chatbot AI với khả năng đa tài như ChatGPT tốn kém hơn nhiều, chủ yếu đến từ các khoản phí khổng lồ dành cho hạ tầng điện toán đám mây.

Theo các nhà phân tích, hiện tại ChatGPT đang chạy trên nền tảng đám mây Azure của Microsoft, điều này giúp OpenAI không phải lo về việc thiết lập phòng máy chủ vật lý cũng như vận hành nó. Nhưng đổi lại, họ sẽ phải trả phí cho Microsoft khi vận hành ChatGPT trên nền tảng đám mây này.

Hé lộ mức phí khổng lồ để ChatGPT trả lời trơn tru câu hỏi của người dùng - Ảnh 1.

Ảnh Internet

Chi phí cho mỗi câu trả lời của ChatGPT

Dưới đây là phân tích của Tom Goldstein, giáo sư về AI, bảo mật và quyền riêng tư tại Đại học Maryland. Với chuyên môn và hiểu biết của mình, ông Goldstein đã thử ước tính chi phí mà OpenAI phải trả cho Microsoft đối với mỗi câu trả lời của ChatGPT cho người dùng.

Trước hết phải kể đến mô hình xử lý ngôn ngữ tự nhiên GPT-3 do OpenAI để làm nền tảng cho ChatGPT. Với 175 tỷ tham số, GPT-3 là mô hình xử lý ngôn ngữ tự nhiên lớn thứ hai thế giới hiện nay – sau mô hình Swift Transformer của Google. Đây là một con số khổng lồ đối với các mô hình AI hiện tại.

Hé lộ mức phí khổng lồ để ChatGPT trả lời trơn tru câu hỏi của người dùng - Ảnh 2.

Ảnh Twitter.

Vậy tốc độ xử lý của nó như thế nào? Theo ông Goldstein, một mô hình với 3 tỷ tham số chạy trên một GPU Nvidia A100 80GB có thể sản sinh ra một token trong vòng 6ms (mili giây). Với quy mô 175 tỷ tham số như của ChatGPT, một GPU A100 sẽ mất 350 ms để tạo ra được một từ duy nhất.

Tất nhiên, một GPU duy nhất là không đủ để vận hành toàn bộ ChatGPT. Riêng việc tải toàn bộ mô hình và xử lý văn bản trong nó đã cần 5 GPU A100. Hiện tại ChatGPT có thể tạo ra khoảng 15-20 từ mỗi giây. Do vậy, nếu sử dụng các GPU Nvidia A100, toàn bộ mô hình có thể phải chạy trên máy chủ ảo với 8 GPU này (đây cũng là một lựa chọn thường thấy trên Azure).

Với mức phí hiện tại của Microsoft, mỗi GPU A100 sẽ tốn khoảng 3 USD mỗi giờ sử dụng. Điều này có nghĩa là 0,0003 USD cho mỗi từ được tạo ra. Trong khi đó, mỗi câu trả lời của ChatGPT thường chứa khoảng 30 từ – nghĩa là trung bình khoảng 1 cent cho mỗi câu trả lời. Con số có vẻ rất nhỏ so với tưởng tượng của mỗi người.

Hé lộ mức phí khổng lồ để ChatGPT trả lời trơn tru câu hỏi của người dùng - Ảnh 3.

GPU Nvidia A100 80GB, GPU chuyên dụng cho xử lý tác vụ AI của Nvidia, có giá hàng chục nghìn USD mỗi chiếc. Ảnh internet

Nhưng vấn đề với ChatGPT là lượng người dùng mỗi ngày của họ đã gia tăng chóng mặt kể từ khi ra mắt đến nay. Tính đến hiện tại – 40 ngày sau khi ra mắt – lượng người dùng hàng ngày của ChatGPT đã vượt mốc 10 triệu – một cột mốc mà Instagram từng phải mất gần một năm mới làm được.

Giả sử trung bình mỗi người dùng hỏi 5 câu mỗi ngày, nghĩa là ChatGPT sẽ phải xử lý khoảng 50 triệu câu hỏi trong một ngày. Con số này tương đương với mức phí 500.000 USD mỗi ngày hay 15 triệu USD mỗi tháng. Tuy nhiên, con số này có thể chưa dừng ở đây khi vẫn còn nhiều người đang háo hức dùng thử ChatGPT trên toàn thế giới và sẽ khiến mức phí này tiếp tục lên cao hơn nữa.

Cho dù mối quan hệ đối tác với Microsoft có thể giúp OpenAI được hưởng mức phí thấp hơn, nhưng chắc chắn con số cũng không hề nhỏ. Dù không cho biết con số cụ thể nhưng trong một cuộc phỏng vấn đầu tháng 12 vừa qua, chính CEO OpenAI, ông Sam Altman cũng nói rằng: “Chúng tôi phải nghĩ cách kiếm tiền từ nó vào một lúc nào đó, chi phí điện toán đang cao đến mức đáng kinh ngạc.”

Không những thế đối với một tổ chức đang chìm trong thua lỗ như OpenAI, số tiền này lại càng đáng kể hơn.

Cơn sốt ChatGPT mang lại cứu cánh cho OpenAI

Theo báo cáo từ trang Fortune, dù không còn là một tổ chức phi lợi nhuận nhưng doanh thu của OpenAI khá khiêm tốn. Cho dù đã mang về gần 30 triệu USD doanh thu, nhưng họ tiêu tốn đến 416,45 triệu USD chi phí cho hoạt động tính toán và xử lý dữ liệu, gần 89,31 triệu USD khác cho lương nhân viên và khoảng 38,75 triệu USD cho các chi phí hoạt động khác. Tổng cộng riêng trong năm 2022, OpenAI đã lỗ đến 544,5 triệu USD.

Hé lộ mức phí khổng lồ để ChatGPT trả lời trơn tru câu hỏi của người dùng - Ảnh 4.

Ảnh Internet

Mức thua lỗ này sẽ càng lớn hơn nữa nếu tính đến chi phí ngày càng gia tăng cho ChatGPT. Tuy nhiên, cơn sốt mà ChatGPT đang tạo ra trên toàn cầu đã mang lại cho OpenAI một cứu cánh đúng lúc họ cần nhất: khoản đầu tư 10 tỷ USD đến từ Microsoft cũng như các tổ chức khác. Bên cạnh đó, OpenAI đang kỳ vọng danh tiếng của ChatGPT sẽ lôi kéo thêm khách hàng cho các sản phẩm khác, với dự báo doanh thu 200 triệu USD vào năm 2023 và 1 tỷ USD vào năm 2024.

Mức chi phí khổng lồ dành cho dịch vụ ChatGPT cũng như sức ép gia tăng doanh thu của OpenAI cũng lý giải cho quyết định mới đây của tổ chức này khi giới thiệu dịch vụ ChatGPT Pro với mức phí thuê bao hàng tháng là 42 USD. Với phiên bản trả phí, khách hàng có thể được ưu tiên sử dụng dịch vụ khi nhu cầu lên cao, tốc độ phản hồi của chatbot nhanh hơn cũng như ưu tiên tiếp cận các tính năng mới.

Theo Thể Thao Văn Hóa

CÁC TIN KHÁC

Nhà vệ sinh tương lai, bồn cầu sẽ biết… bắt bệnh

Những chiếc gương và toilet có thể phát hiện bệnh sớm, các loại vật liệu lót sàn có khả năng đo lường nguy cơ ngã của người dùng, đó là những gì có thể sẽ sớm hiện diện trong các nhà vệ sinh cao cấp tương lai.

Điều gì biến Ấn Độ trở thành trung tâm thiết kế bán dẫn của thế giới?

Theo Chủ tịch Công ty bán dẫn Qualcomm chi nhánh Ấn Độ, quốc gia Nam Á đang và sẽ là trung tâm thiết kế chip với đội ngũ kỹ sư dồi dào.

Điều ít biết về người phát minh ra bút xóa

Ngày nay, chiếc bút xóa đã không còn xa lạ gì với mọi người. Tuy nhiên, ít ai biết được người phát minh ra nó lại chính là một phụ nữ.

Nghiên cứu cho thấy AI giúp con người cảm thấy được lắng nghe

Một nghiên cứu mới được công bố trong Kỷ yếu của Viện Hàn lâm Khoa học Quốc gia Mỹ đã phát hiện rằng tin nhắn do trí tuệ nhân tạo (AI) phản hồi mang lại cảm giác được lắng nghe nhiều hơn tin nhắn do một người có khả năng giao tiếp non nớt.

Khả năng cuộc cách mạng thiết bị AI ‘khai tử’ điện thoại thông minh

Tham vọng của Humane là khai tử điện thoại thông minh hoặc ít nhất là giảm nhu cầu thiết bị đang được coi là thứ không thể thiếu trong cuộc sống hiện đại này.

Những cỗ máy ‘có một không hai’ trong lịch sử

Một số cỗ máy kỳ lạ nhất từng được thiết kế và chế tạo trong lịch sử nhân loại, từ máy tính cổ nhất thế giới của người Hy Lạp tới máy bay cánh chim của Leonardo da Vinci.

Bài viết nổi bật

Đại học Sư phạm TP.HCM ‘bắt tay’ doanh nghiệp công nghệ Việt thúc đẩy chuyển đổi số

Theo hợp tác mới ký kết với Viettel Solutions, Đại học Sư phạm TP.HCM sẽ cùng doanh nghiệp này xây dựng các giải pháp công nghệ trong giáo dục tập trung vào 4 nội dung chính.

Nhóm sinh viên trường ĐH Ngoại thương giành giải ‘Olympic Kinh tế lượng và ứng dụng’

Ngày 12/6, tại Học viện Tài chính diễn ra Chung khảo Hội thi khoa học sinh viên toàn quốc 'Olympic Kinh tế lượng và ứng dụng' lần thứ VII, năm 2022. Ban Giám khảo đã chọn ra nhóm sinh viên ĐH Ngoại thương TP. Hồ Chí Minh giành giải Đặc biệt.

Bài viết mới nhất

Sự kiện chế biến và công diễn 120 món ăn từ Đẳng Sâm (Sâm dây Ngọc Linh) của UBND Huyện Tu Mơ Rông (Kon Tum) tổ chức lập kỷ lục Việt Nam

(Kyluc.vn) - Sáng ngày 26/04/2024, trong khuôn khổ của hội thi “Ẩm thực dược liệu - Tinh hoa núi rừng Ngọc Linh” lần thứ 2 do Ủy ban nhân dân huyện Tu Mơ Rông, tỉnh Kon Tum tổ chức tại Làng tái định cư Thôn Tu Thó (huyện Tu Mơ Rông, tỉnh Kon Tum) đã diễn ra Sự kiện chế biến và công diễn 120 món ăn từ Đẳng Sâm (Sâm dây Ngọc Linh) nhằm xác lập Kỷ lục Việt Nam.

TOP 100 Hồng bảo Kỷ lục Thế giới tại Việt Nam (P.54) Làng đá Khuổi Ky (Cao Bằng): Làng đá cổ 400 năm nơi miền biên viễn – [VIETKINGS-TOPPLUS đề cử]

(kyluc.vn) Bản đá Khuổi Ky thuộc xã Đàm Thủy, huyện Trùng Khánh, tỉnh Cao Bằng, với những ngôi nhà sàn bằng đá mang dáng dấp cổ xưa, tạo nên nét cổ kính, nhuốm màu huyền thoại cho vùng đất miền biên viễn.

Nhà vệ sinh tương lai, bồn cầu sẽ biết… bắt bệnh

Những chiếc gương và toilet có thể phát hiện bệnh sớm, các loại vật liệu lót sàn có khả năng đo lường nguy cơ ngã của người dùng, đó là những gì có thể sẽ sớm hiện diện trong các nhà vệ sinh cao cấp tương lai.

Tiết mục múa xòe của thiếu nhi 63 tỉnh, thành phố tại chương trình tuyên dương “Chiến sĩ nhỏ Điện Biên” toàn quốc lần thứ V xác lập Kỷ lục Việt Nam

(kyluc.vn) Vào tối ngày 25/4/2024, tại Quảng trường thành phố Điện Biên Phủ, tỉnh Điện Biên, Trung ương Đoàn TNCS Hồ Chí Minh, Hội đồng Đội Trung ương tổ chức Chương trình Tuyên dương “Chiến sĩ nhỏ Điện Biên” toàn quốc lần thứ V - năm 2024. Cũng tại chương trình, Tổ chức kỷ lục Việt Nam đã trao kỷ lục: “Tiết mục múa xoè có số lượng thiếu nhi 63 tỉnh, thành phố tham gia biểu diễn chào mừng 70 năm chiến thắng Điện Biên Phủ đông nhất Việt Nam” cho Hội đồng Đội Trung ương.

Ứng dụng công nghệ thực tế ảo tại Đền thờ Trạng Trình Nguyễn Bỉnh Khiêm

Thành đoàn Hải Phòng vừa phối hợp các đơn vị lựa chọn triển khai thí điểm ứng dụng công nghệ thực tế ảo (VR360) tại Khu di tích Quốc gia đặc biệt Đền thờ Trạng Trình Nguyễn Bỉnh Khiêm (huyện Vĩnh Bảo, Hải Phòng).

[WOWTIMES – VIETKINGS] Thư viện Khoa học Tổng hợp Thành phố Hồ Chí Minh (1868-2024) – 156 năm trân trọng tri thức – Top 100 đơn vị trên 100 tuổi còn hoạt động tại Việt Nam 2024 – P.12

(nienlich.vn) Thư viện Khoa học Tổng hợp Thành phố Hồ Chí Minh tiền thân là thư viện của các đô đốc, thống đốc. Trải qua nhiều thăng trầm lịch sử thư viện tiếp tục phát triển mạnh mẽ tới hôm nay cùng với nhiều tài liệu được số hóa.