Là nền tảng cho trí tuệ của ChatGPT, nhưng OpenAI lại tuyên bố thời của các Mô hình AI khổng lồ đã kết thúc

Nhiều khả năng GPT-4 sẽ là bản nâng cấp lớn cuối cùng cho mô hình AI mà OpenAI cung cấp.

vninfor.vn

Một trong những phần làm nên các tính năng phong phú của ChatGPT chính là nhờ mô hình ngôn ngữ lớn đằng sau nó. Nếu như GPT-3 có kích thước lên đến 175 tỷ tham số, mô hình ngôn ngữ GPT-4 mới ra mắt được cho có quy mô lên đến hơn 1.000 tỷ tham số và được xem như các mô hình ngôn ngữ lớn chưa từng thấy cho đến thời điểm hiện tại.

Thế nhưng giữa tháng 4 vừa qua, chính CEO OpenAI, ông Sam Altman lại lên tiếng cảnh báo rằng thời đại của những mô hình ngôn ngữ lớn này đã kết thúc, mặc dù vậy vẫn chưa rõ điều gì sẽ thay thế cho chúng trong tương lai.

Trong một sự kiện do trường MIT tổ chức, ông Sam Altman cho biết: "Tôi nghĩ chúng ta đã đến điểm cuối của thời đại khi mọi người đều lao vào những mô hình siêu khổng lồ. Chúng tôi sẽ làm chúng tốt hơn theo một cách khác."

Là nền tảng cho trí tuệ của ChatGPT, nhưng OpenAI lại tuyên bố thời của các Mô hình AI khổng lồ đã kết thúc - Ảnh 1.

CEO OpenAI, Sam Altman. Ảnh internet https://vninfor.vn/

Lời tuyên bố của ông Altman cho thấy bước ngoặt không ngờ trong cuộc đua phát triển và triển khai các thuật toán AI mới. Kể từ khi OpenAI ra mắt ChatGPT vào tháng 11 năm ngoái, Microsoft đã sử dụng công nghệ nền tảng của nó để triển khai chatbot trong công cụ tìm kiếm Bing của mình, cũng như thúc đẩy hãng Google làm điều tương tự khi ra mắt chatbot Bard. Nhiều người cũng vội vã thử nghiệm loại hình AI mới này để hoàn thành công việc hoặc các việc làm cá nhân.

Tuyên bố của ông Altman cho thấy có thể GPT-4 là bản nâng cấp lớn cuối cùng cho chiến lược đã được OpenAI thực hiện trong vài năm qua – làm các mô hình với kích thước ngày càng lớn hơn và nạp vào ngày càng nhiều dữ liệu hơn.

Năm 2019, OpenAI giới thiệu mô hình ngôn ngữ đầu tiên của mình, GPT-2. Ở quy mô lớn nhất của mình, GPT-2 có khoảng 1,5 tỷ tham số với dung lượng 40GB văn bản. Tiếp đó năm 2020, GPT-3 ra mắt với 175 tỷ tham số và có dung lượng lưu trữ đến 800GB.

Là nền tảng cho trí tuệ của ChatGPT, nhưng OpenAI lại tuyên bố thời của các Mô hình AI khổng lồ đã kết thúc - Ảnh 2.

GPT-4, mô hình ngôn ngữ tự nhiên được cho có kích thước lớn nhất cho đến nay. Ảnh internet https://vninfor.vn/

Mới đây nhất là mô hình GPT-4 – cho dù OpenAI không tiết lộ chính xác kích thước của mô hình này, nhưng nhiều chuyên gia trong ngành dự báo rằng, nó có thể lên tới 1.000 tỷ tham số, lớn nhất từ trước đến nay. Nhưng với tuyên bố nói trên của CEO OpenAI, cuộc đua tạo nên những mô hình ngôn ngữ quy mô lớn dường như đã kết thúc.

Lý do đằng sau tuyên bố bất ngờ này

Đầu tiên chính là chi phí. Cũng trong sự kiện của MIT nói trên, khi được hỏi có phải việc huấn luyện mô hình GPT-4 tiêu tốn đến 100 triệu USD, ông Altman đáp lại rằng: "Nó còn nhiều hơn thế." Kích thước mô hình lớn hơn, nghĩa là dữ liệu phải xử lý cũng lớn hơn, kéo theo chi phí tính toán xử lý dữ liệu cũng ngày càng lớn hơn.

Đó là còn chưa kể đến chi phí vận hành các mô hình này khi trả lời truy vấn của người dùng. Cho dù OpenAI và Microsoft không tiết lộ con số cụ thể nhưng nhiều chuyên gia trong ngành cho rằng, hiện tại việc vận hành ChatGPT tiêu tốn gần 1 triệu USD mỗi ngày. Con số này có thể tăng lên cao hơn nữa khi số người dùng chatbot này tiếp tục gia tăng.

Là nền tảng cho trí tuệ của ChatGPT, nhưng OpenAI lại tuyên bố thời của các Mô hình AI khổng lồ đã kết thúc - Ảnh 3.

Chi phí vận hành ChatGPT có thể lên đến hơn 700.000 USD mỗi ngày. https;//vninfor.vn/

Một phần nguyên nhân dẫn đến mức chi phí khủng này đến từ giá thành cao ngất ngưởng của một loại linh kiện tối quan trọng: các GPU AI. Ví dụ, để huấn luyện nên ChatGPT, các báo cáo cho biết phải cần đến hơn 10.000 GPU A100 của Nvidia với giá thành lên đến 10.000 USD mỗi thiết bị. Thậm chí để vận hành ChatGPT, số lượng GPU cần thiết còn lớn hơn nữa, kéo theo chi phí càng lớn hơn nữa.

Mới đây, hãng Nvidia còn tiếp tục ra mắt dòng GPU H100 được thiết kế chuyên dành cho việc xử lý các tác vụ AI và tính toán hiệu suất cao. Nhưng giá thành của linh kiện này thậm chí còn đắt hơn nữa khi lên tới 30.000 USD mỗi sản phẩm, còn nếu mua lẻ trên eBay, mức giá phải trả còn cao hơn nữa. Các mô hình có quy mô càng lớn sẽ càng cần nhiều GPU hơn để huấn luyện và xử lý, dẫn đến chi phí càng lớn hơn.

Thậm chí một cuộc khủng hoảng nguồn cung của loại GPU này có thể xảy ra khi các linh kiện này không dành cho số đông người dùng. Giá thành cao, chỉ dành cho một số tập khách hàng nhất định, do vậy các GPU sẽ hiếm khi có sẵn để đáp ứng nhu cầu lớn của khách hàng. Mới đây ông Elon Musk cũng xác nhận việc sẽ mua 10.000 GPU để phát triển một công ty AI mới có tên X.ai. Thế nhưng nhiều chuyên gia trong ngành cho rằng, ông Musk có thể phải chờ nhiều tháng mới có được số lượng GPU mà mình yêu cầu.

Là nền tảng cho trí tuệ của ChatGPT, nhưng OpenAI lại tuyên bố thời của các Mô hình AI khổng lồ đã kết thúc - Ảnh 4.

GPU H100 HVL của Nvidia, GPU chuyên dành cho AI và các tác vụ tính toán hiệu năng cao. Ảnh internet https://vninfor.vn/

Bên cạnh đó trong tài liệu mô tả GPT-4, OpenAI cũng ước tính rằng hiệu quả từ việc mở rộng kích thước mô hình đang giảm dần – nghĩa là ngay cả khi kích thước khối dữ liệu tăng lên nhưng hiệu quả xử lý lại không tăng tương ứng. Ngoài ra ông Altman cho biết, còn có các giới hạn vật lý về số lượng trung tâm dữ liệu mà công ty có thể xây dựng và tốc độ xây dựng các trung tâm đó.

Nick Frosst, đồng sáng lập của Cohere, người trước đây từng làm việc về AI tại Google cũng đồng tình với tuyên bố cảu Sam Altman. Anh cũng tin rằng, sự tiến bộ của Transformer, loại mô hình máy học nằm trong trung tâm của GPT-4 và các mô hình AI đối thủ, không chỉ phụ thuộc vào quy mô của nó, mà còn các yếu tố khác, bao gồm thiết kế, kiến trúc hoặc khả năng tinh chỉnh mô hình cũng như phản hồi từ người huấn luyện…

https://thethaovanhoa.vn/la-nen-tang-cho-tri-tue-cua-chatgpt-nhung-openai-lai-tuyen-bo-thoi-cua-cac-mo-hinh-ai-khong-lo-da-ket-thuc-20230505145959519.htm
Chia sẻ

Tin liên quan

Cùng chuyên mục

HAG xin sửa đổi các điều kiện của lô trái phiếu hơn 4 ngàn tỷ đồng

HAG xin sửa đổi các điều kiện của lô trái phiếu hơn 4 ngàn tỷ đồng

Ngày 16/09, HĐQT CTCP Hoàng Anh Gia Lai (HOSE: HAG) thông qua việc sửa đổi các điều kiện trái phiếu 2016 và thông qua việc xin ý kiến người sở hữu trái phiếu 2016.
Nam Định: Thúc đẩy nâng cao năng suất, chất lượng cho doanh nghiệp

Nam Định: Thúc đẩy nâng cao năng suất, chất lượng cho doanh nghiệp

Tại các địa phương Nam Định, phong trào năng suất chất lượng đã được triển khai ở bề rộng.
Cần gia hạn cơ cấu nợ để hỗ trợ phục hồi nền kinh tế

Cần gia hạn cơ cấu nợ để hỗ trợ phục hồi nền kinh tế

Trước khó khăn trong hoạt động sản xuất, kinh doanh của doanh nghiệp, theo chuyên gia, cần tiếp tục gia hạn cơ cấu nợ để hỗ trợ phục hồi nền kinh tế.
Tình thế nghịch lý của kinh tế Việt Nam và những cam kết tạo động lực mới cho tương lai

Tình thế nghịch lý của kinh tế Việt Nam và những cam kết tạo động lực mới cho tương lai

Trong thời gian gần đây, bên cạnh những nỗ lực “chỉnh sửa, tháo gỡ, thay đổi” những trói buộc và cản trở của hệ thống cơ chế, chính sách, Đảng và Nhà nước còn tích cực nhận diện và định hình chân dung mới của nền kinh tế theo nguyên tắc “hướng tới tương lai”.
Giá vàng tuần tới: Cẩn trọng rủi ro sau quyết định của FED

Giá vàng tuần tới: Cẩn trọng rủi ro sau quyết định của FED

FED chắc chắn sẽ cắt giảm lãi suất vào tuần tới, nhưng mức cắt giảm lãi suất còn bỏ ngỏ. Điều này có thể tác động mạnh đến giá vàng tuần tới.
Siêu bão, mưa lũ có thể khiến GDP cả năm 2024 giảm 0,15%

Siêu bão, mưa lũ có thể khiến GDP cả năm 2024 giảm 0,15%

Do ảnh hưởng của siêu bão, mưa lũ, GDP cả năm 2024 có thể giảm 0,15% so với kịch bản đã đưa ra, ước tăng trưởng có thể đạt 6,8-7%.

Các tin khác

Giá vàng sẽ tiếp tục tăng trong các tháng cuối năm?

Giá vàng sẽ tiếp tục tăng trong các tháng cuối năm?

Nhiều yếu tố thúc đẩy giá vàng tăng mạnh, giá vàng thế giới có thể lên mốc 2,800 USD/oz vào cuối năm 2024.
Đâu là nguồn tạo ra hàng triệu việc làm mới?

Đâu là nguồn tạo ra hàng triệu việc làm mới?

Vượt qua công nghệ và các xu hướng lớn khác, có khoảng 30 triệu việc làm mới dự kiến được tạo ra từ cam kết lớn của nhiều doanh nghiệp.
Hà Nội miễn giảm thuế cho người bị ảnh hưởng của bão Yagi

Hà Nội miễn giảm thuế cho người bị ảnh hưởng của bão Yagi

Cục Thuế Hà Nội vừa có thông báo gửi các doanh nghiệp, người nộp thuế về các chính sách gia hạn, miễn, giảm thuế cho nhiều trường hợp bị ảnh hưởng bởi cơn bão Yagi.
Kinh tế Việt Nam tăng trưởng nhanh nhờ 3 yếu tố này?

Kinh tế Việt Nam tăng trưởng nhanh nhờ 3 yếu tố này?

Giới chuyên gia cho biết, có 3 yếu tố chủ chốt đang thúc đẩy nền kinh tế Việt Nam tăng trưởng nhanh, gồm quá trình công nghiệp hóa nhanh nhờ dòng vốn đầu tư nước ngoài, sự gia tăng tầng lớp trung lưu và thế mạnh đặc biệt về địa chính trị.
“Cú hích” đầu tư, thương mại Việt Nam - Lào

“Cú hích” đầu tư, thương mại Việt Nam - Lào

Chuyến thăm Việt Nam của Tổng Bí thư, Chủ tịch nước Lào và Phu nhân được kỳ vọng sẽ tạo cú hích mới cho quan hệ thương mại, đầu tư Việt Nam – Lào.
Tín dụng xanh trong phát triển kinh tế xanh

Tín dụng xanh trong phát triển kinh tế xanh

Để thu hút khoản tín dụng xanh cho các dự án, doanh nghiệp nhỏ thường gặp khó khăn. Điều này đúng khi các tiêu chuẩn tín dụng xanh vẫn chưa được xác định rõ.
Cấm các doanh nghiệp hàng hải lợi dụng bão lũ tăng giá dịch vụ

Cấm các doanh nghiệp hàng hải lợi dụng bão lũ tăng giá dịch vụ

Cục Hàng hải Việt Nam vừa có văn bản liên quan tới giá dịch vụ tại cảng biển và giá dịch vụ vận chuyển hàng hóa bằng đường biển, nghiêm cấm tăng giá cước do bão lũ để trục lợi.
Lạm Phát Mỹ xuống thấp nhất kể từ năm 2021, mở đường cho đợt hạ lãi suất của Fed

Lạm Phát Mỹ xuống thấp nhất kể từ năm 2021, mở đường cho đợt hạ lãi suất của Fed

Chỉ số giá tiêu dùng (CPI) tăng yếu nhất kể từ tháng 2/2021, tạo tiền đề để Fed hạ lãi suất trong tuần tới.
Giải pháp khắc phục âm vốn chủ của VST

Giải pháp khắc phục âm vốn chủ của VST

Mặc dù 3 năm gần đây làm ăn có lãi, nhưng do âm vốn chủ hơn 725 tỷ đồng, khiến cổ phiếu của Công ty CP Vận tải và Thuê tàu biên Việt Nam (UpCOM: VST) vẫn nằm trong diện hạn chế giao dịch.
"Ma trận" ESG: Rủi ro nào cho doanh nghiệp toàn cầu?

"Ma trận" ESG: Rủi ro nào cho doanh nghiệp toàn cầu?

Quy định ESG hiện nay của các quốc gia không nhất quán, có nguy cơ gây rủi ro đối với các doanh nghiệp yếu thế trên quy mô toàn cầu.
Vàng thế giới đi ngang chờ báo cáo lạm phát của Mỹ

Vàng thế giới đi ngang chờ báo cáo lạm phát của Mỹ

Giá vàng ổn định vào ngày thứ Hai (09/09), khi nhà đầu tư chờ đợi báo cáo lạm phát của mỹ để có thêm thông tin về quy mô tiềm năng của đợt hạ lãi suất của Cục Dự trữ Liên bang Mỹ (Fed).
Cổ đông mừng hụt khi doanh nghiệp lỗ ngược sau kiểm toán

Cổ đông mừng hụt khi doanh nghiệp lỗ ngược sau kiểm toán

Một loạt doanh nghiệp đã công bố thay đổi lợi nhuận sau kiểm toán báo cáo tài chính bán niên năm 2024, trong đó có DIC, LDG, Danh Khôi, ABBank...
Tiếp tục nghiên cứu, điều chỉnh tăng lương phù hợp với từng thời kỳ

Tiếp tục nghiên cứu, điều chỉnh tăng lương phù hợp với từng thời kỳ

Cử tri kiến nghị có những chính sách riêng để hỗ trợ, góp phần nâng cao mức sống cho công nhân lao động trong thời gian tới. Trả lời, Bộ LĐ-TB&XH cho biết sẽ tiếp tục nghiên cứu, khuyến nghị Chính phủ có những quy định về lương tối thiểu vùng phù hợp từng thời kỳ.
“Đòn bẩy” chính sách đầu tư cho Việt Nam và Lào

“Đòn bẩy” chính sách đầu tư cho Việt Nam và Lào

Nghiên cứu so sánh cho thấy, chính sách đầu tư của Việt Nam và Lào có những điểm tương đồng, khác biệt nhất định.
Bộ trưởng Yellen: Kinh tế Mỹ vẫn trên đà "hạ cánh mềm", thị trường việc làm chưa đáng ngại

Bộ trưởng Yellen: Kinh tế Mỹ vẫn trên đà "hạ cánh mềm", thị trường việc làm chưa đáng ngại

Trong bối cảnh thị trường tài chính lo ngại về sự hạ nhiệt rõ rệt của thị trường việc làm, Bộ trưởng Tài chính Janet Yellen đã lên tiếng trấn an công chúng về sức khỏe của nền kinh tế Mỹ. Tại sự kiện ở Austin hôm thứ Bảy (07/09), bà Yellen khẳng định: "Chúng ta đang thấy ít sự cuồng nhiệt hơn trong tuyển dụng và số lượng cơ hội việc làm, nhưng cũng không thấy những đợt sa thải đáng kể”.
Giá USD suy yếu

Giá USD suy yếu

Tuần qua (04-06/09/2024), giá USD lao dốc trên thị trường quốc tế sau khi dữ liệu việc làm trái chiều của Mỹ đã làm tăng nghi ngờ về quy mô hạ lãi suất từ Cục Dự trữ Liên bang Mỹ (Fed).
Giá vàng tuần tới: Dễ “tổn thương” trước cuộc họp của FED

Giá vàng tuần tới: Dễ “tổn thương” trước cuộc họp của FED

Nhiều chuyên gia cho rằng với kỳ vọng FED chỉ giảm lãi suất 0,25% trong tháng này, giá vàng tuần tới có thể sẽ tiếp tục điều chỉnh quanh mức 2.500 USD/oz.
Cam kết thực hành ESG, doanh nghiệp kiến nghị được miễn giảm thuế

Cam kết thực hành ESG, doanh nghiệp kiến nghị được miễn giảm thuế

Cam kết thực hành ESG với những mục tiêu cụ thể sẽ được miễn giảm thuế là một trong những kiến nghị của doanh nghiệp.
Xem thêm
[Tổng Hợp] 6 Quy Định Mới Về Đất Đai, Nhà Ở Có Hiệu Lực Tháng 8/2024

[Tổng Hợp] 6 Quy Định Mới Về Đất Đai, Nhà Ở Có Hiệu Lực Tháng 8/2024

WORLDBANK DỰ BÁO KINH TẾ VIỆT NAM NĂM 2024 VÀ NĂM 2025 | NHỊP ĐẬP THỊ TRƯỜNG  #62

WORLDBANK DỰ BÁO KINH TẾ VIỆT NAM NĂM 2024 VÀ NĂM 2025 | NHỊP ĐẬP THỊ TRƯỜNG #62

Cụ thể, báo cáo “Điểm lại - Cập nhật tình hình kinh tế Việt Nam” ấn bản tháng 4/2024 của WB tại Việt Nam ngày 23/4 đã chỉ ra xuất khẩu đang phục hồi, tiêu dùng và đầu tư tư nhân trong nước cũng trên đà tăng dần. Xuất khẩu thực tế dự kiến sẽ tăng 3,5% vào năm 2024, phản ánh sự cải thiện dần dần nhu cầu toàn cầu. Ngoài ra, lĩnh vực bất động sản dự báo phục hồi mạnh hơn vào cuối năm nay và năm sau, thúc đẩy nhu cầu trong nước khi các nhà đầu tư và người tiêu dùng dần lấy lại niềm tin.
Tọa đàm “Xúc tiến thương mại: Khơi thông đầu ra cho sản phẩm OCOP”

Tọa đàm “Xúc tiến thương mại: Khơi thông đầu ra cho sản phẩm OCOP”

sản phẩm OCOP
Bác sĩ tư vấn cách phòng tránh bệnh đường hô hấp trong thời tiết giao mùa

Bác sĩ tư vấn cách phòng tránh bệnh đường hô hấp trong thời tiết giao mùa

Trao yêu thương cho em

Trao yêu thương cho em

Nhằm kết nối, sẻ chia với các trẻ em mồ côi cha, mẹ do dịch Covid-19 vừa qua trên địa bàn Cần Thơ. Tạp chí Gia đình Việt Nam tại TP Cần Thơ tổ chức Chương trình nghệ thuật “ Nối vòng yêu thương” diễn ra vào ngày 28/6/2022. Công ty Cổ phần Trầm hương sinh học TTT là đơn vị tài trợ chính cho chương trình với mong muốn các em sẽ đón nhận những tương lai tươi sáng.
Kon Tum giải cứu nạn nhân bị lừa bán sang Campuchia

Kon Tum giải cứu nạn nhân bị lừa bán sang Campuchia

Ngày 18/4 vừa qua, đối tượng Lê Ngọc Nhất đã dẫn Y Liên cùng 5 người khác gồm 2 nữ, 3 nam không rõ tên tuổi, không quen biết nhau sang Campuchia qua đường mòn biên giới tỉnh Long An.
Giới thiệu Phổ biến kiến thức Pháp luật

Giới thiệu Phổ biến kiến thức Pháp luật

Phổ biến, cập nhật kiến thức pháp luật là hoạt động nghiên cứu, tìm hiểu, bổ sung kiến thức, các quy định pháp luật mới ban hành. Trong tiến trình xây dựng Nhà nước pháp quyền xã hội chủ nghĩa, việc cập nhật kiến thức pháp luật có vai trò rất quan trọng, góp phần hình thành tri thức pháp lý, thái độ, hành vi xử sự của mọi người phù hợp với đòi hỏi của hệ thống pháp luật. Tại tỉnh Quảng Ninh, việc phổ biến, cập nhật kiến thức pháp luật cho những người hoạt động không chuyên trách ở cơ sở có ý nghĩa quan trọng, góp phần giữ vững ổn định chính trị, an ninh, trật tự trên địa bàn.
Phổ biến Luật tiếp cận thông tin

Phổ biến Luật tiếp cận thông tin

Luật này quy định về việc thực hiện quyền tiếp cận thông tin của công dân, nguyên tắc, trình tự, thủ tục thực hiện quyền tiếp cận thông tin, trách nhiệm, nghĩa vụ của cơ quan nhà nước trong việc bảo đảm quyền tiếp cận thông tin của công dân.
Hướng đến Chuyển đổi số sâu rộng

Hướng đến Chuyển đổi số sâu rộng

Trong thời kỳ hội nhập và phát triển, chuyển đổi số ngày càng đóng vai trò quan trọng, quyết định hiệu quả thành công của doanh nghiệp. Và, một thực tế cho thấy, các doanh nghiệp trên toàn thế giới thuộc nhiều lĩnh vực khác nhau, từ bán lẻ, tài chính và chăm sóc sức khỏe, cho đến khu vực công, đều đang khởi động các dự án chuyển đổi số để cải thiện trải nghiệm khách hàng và tăng hiệu quả hoạt động.
Giao diện di động