Amazon SageMaker
Machine Learning dành cho mọi nhà khoa học dữ liệu và nhà phát triển.
Amazon SageMaker mang đến cho mọi nhà phát triển và nhà khoa học dữ liệu khả năng xây dựng, đào tạo và triển khai các mô hình machine learning một cách nhanh chóng. Amazon SageMaker là dịch vụ được quản lý toàn phần bao gồm toàn bộ quy trình công việc của machine learning để gắn nhãn và chuẩn bị dữ liệu, chọn thuật toán, đào tạo mô hình, điều chỉnh và tối ưu hóa dịch vụ cho việc triển khai, đưa ra dự đoán và thực hiện hành động. Bạn sẽ đưa mô hình vào sản xuất nhanh hơn mà không cần tốn nhiều công sức và chi phí như trước đây.
XÂY DỰNG
Thu thập và chuẩn bị dữ liệu đào tạo
Gắn nhãn dữ liệu và sổ ghi chép dựng sẵn cho các vấn đề thường gặp
Chọn và tối ưu hóa thuật toán ML của bạn
Marketplace mô hình và thuật toán cùng với các thuật toán tích hợp, hiệu suất cao
ĐÀO TẠO
Thiết lập và quản lý môi trường cho đào tạo
Đào tạo chỉ với một cú nhấp chuột trên cơ sở hạ tầng hiệu suất cao nhất
Đào tạo và điều chỉnh mô hình
Đào tạo một lần, chạy ở mọi nơi và tối ưu hóa mô hình
TRIỂN KHAI
Triển khai mô hình ở khâu sản xuất
Triển khai bằng một lần nhấp chuột
Mở rộng và quản lý môi trường sản xuất
Được quản lý toàn phần với khả năng tự động thay đổi quy mô với chi phí ít hơn 75%
Khách hàng nổi bật
Thu thập và chuẩn bị dữ liệu đào tạo
Gắn nhãn dữ liệu đào tạo nhanh chóng
Amazon SageMaker Ground Truth giúp bạn xây dựng và quản lý bộ dữ liệu đào tạo độ chính xác cao một cách nhanh chóng. Ground Truth giúp dễ dàng truy cập vào trình gắn nhãn dành cho con người ở nơi công cộng và riêng tư, đồng thời cung cấp cho các trình gắn nhãn này các giao diện và quy trình công việc tích hợp sẵn cho nhiệm vụ gắn nhãn phổ biến. Ngoài ra, Ground Truth sẽ học từ các nhãn dành cho con người để tạo ra chất lượng cao, ghi chú tự động để giảm đáng kể chi phí gắn nhãn.
Tìm hiểu thêm »
Sổ ghi chép được lưu trữ
Sổ ghi chép Jupyter được quản lý toàn phần mà bạn có thể dùng trong đám mây hoặc mang sổ ghi chép từ môi trường cục bộ của mình để khám phá và trực quan hóa dữ liệu cũng như phát triển mô hình. Bên cạnh việc xây dựng từ đầu, bạn còn có thể chọn nhiều loại sổ ghi chép dựng sẵn và sử dụng nguyên trạng hoặc sửa đổi cho phù hợp với nhu cầu cụ thể của bạn, giúp cho việc khám phá và trực quan hóa dữ liệu đào tạo trở nên nhanh chóng và dễ dàng hơn. Có sẵn các giải pháp cho nhiều vấn đề phổ biến như đề xuất và cá nhân hóa, phát hiện lừa đảo, dự báo, phân loại hình ảnh, dự đoán tỷ lệ rời đi, nhắm mục tiêu khách hàng, xử lý nhật ký, phát hiện sự bất thường và chuyển lời nói thành văn bản.
Tìm hiểu thêm »
Chọn và tối ưu hóa thuật toán machine learning của bạn
Amazon SageMaker tự động định cấu hình và tối ưu hóa TensorFlow, Apache MXNet, PyTorch, Chainer, Scikit-learn, SparkML, Horovod, Keras và Gluon. Các thuật toán machine learning thường dùng được dựng sẵn và điều chỉnh theo quy mô, tốc độ và độ chính xác với hơn 200 mô hình và thuật toán bổ sung được đào tạo trước trong AWS Marketplace. Bạn cũng có thể sử dụng bất kỳ thuật toán hoặc framework nào khác bằng cách đưa vào bộ chứa Docker.
Thiết lập và quản lý môi trường đào tạo
Đào tạo với một nhấp chuột
Bắt đầu đào tạo mô hình của bạn với một cú nhấp chuột. Amazon SageMaker xử lý tất cả cơ sở hạ tầng cơ bản để mở rộng các bộ dữ liệu có kích thước petabyte một cách dễ dàng.
Machine learning nhanh nhất được phân phối trong đám mây.
Phiên bản Amazon EC2 P3 mang đến 8 GPU NVIDIA Tesla.
64 vCPU có thể mở rộng Intel Xeon Skylake với AVX-512
Thông lượng mạng 25 GBPS
Bộ nhớ 16 GB mỗi GPU
Nơi thích hợp nhất để chạy TensorFlow
Các đặc điểm tối ưu hóa trên TensorFlow của AWS mang lại hiệu quả quy mô cận tuyến tính trên hàng trăm GPU để vận hành ở quy mô đám mây trong thời gian ngắn hơn nhiều mà không phải chịu nhiều chi phí xử lý để đào tạo các mô hình chính xác, phức tạp hơn.
Dịch vụ lưu trữ và đào tạo được quản lý toàn phần
Quy mô cận tuyến tính trên hàng trăm GPU
Giảm 75% chi phí suy diễn
Hiệu quả mở rộng quy mô với 256 GPU
Điều chỉnh và tối ưu hóa mô hình của bạn
Tự động điều chỉnh mô hình của bạn
Đào tạo một lần, chạy ở mọi nơi
Amazon SageMaker Neo cho phép bạn đào tạo mô hình một lần và triển khai mô hình đó ở mọi nơi. Bằng cách dùng machine learning, SageMaker Neo sẽ tự động tối ưu hóa mọi mô hình đã đào tạo được xây dựng với framework phổ biến cho nền tảng phần cứng bạn chỉ định mà không mất độ chính xác. Sau đó, bạn có thể triển khai mô hình của mình cho các phiên bản EC2 và phiên bản SageMaker hoặc bất kỳ thiết bị nào tại biên bao gồm thời gian chạy Neo, kể cả thiết bị AWS Greengrass.
Triển khai và quản lý các mô hình trong sản xuất
Triển khai sang giai đoạn sản xuất chỉ với một cú nhấp chuột
Amazon SageMaker có thể giúp cho việc triển khai mô hình đã đào tạo của bạn vào khâu sản xuất trở nên dễ dàng với một cú nhấp chuột để bạn có thể bắt đầu tạo các dự đoán (quy trình này được gọi là suy luận) đối với dữ liệu trong thời gian thực hoặc theo lô. Mô hình của bạn chạy trên các cụm tự động thay đổi quy mô của phiên bản Amazon SageMaker được trải đều trên nhiều vùng sẵn sàng để đem lại cả hiệu suất và độ khả dụng cao. Amazon SageMaker cũng được tích hợp các năng lực kiểm thử A/B để giúp bạn kiểm thử mô hình và thử nghiệm với nhiều phiên bản khác nhau để đạt được kết quả tốt nhất.
Chạy mô hình tại biên
AWS Greengrass giúp việc triển khai mô hình đã đào tạo với Amazon SageMaker tại thiết bị ở biên để chạy suy diễn dễ dàng. Với AWS Greengrass, các thiết bị được kết nối có thể chạy các hàm AWS Lambda, duy trì đồng bộ dữ liệu thiết bị và giao tiếp với các thiết bị khác một cách bảo mật – ngay cả khi không có kết nối với Internet.
Giảm chi phí suy diễn deep learning tới 75% bằng cách dùng Amazon Elastic Inference để đính kèm tăng tốc GPU linh hoạt vào phiên bản Amazon SageMaker của bạn một cách dễ dàng. Đối với hầu hết các mô hình, một phiên bản GPU đầy đủ có kích thước quá lớn cho suy diễn. Ngoài ra, thật khó tối ưu hóa GPU, CPU và nhu cầu bộ nhớ của ứng dụng deep learning với một loại phiên bản duy nhất. Suy diễn linh hoạt cho phép bạn chọn loại phiên bản thích hợp nhất với toàn bộ CPU và nhu cầu bộ nhớ của ứng dụng, sau đó cấu hình riêng số lượng tăng tốc GPU thích hợp bắt buộc để suy diễn.
HỖ TRỢ
Thành công của khách hàng
“GE Healthcare đang chuyển đổi dịch vụ chăm sóc sức khỏe bằng cách hỗ trợ khách hàng cung cấp kết quả tốt hơn. Chúng tôi đào tạo các mô hình thị giác máy tính trong Amazon SageMaker, các mô hình này sau đó được triển khai trong máy MRI và X-Ray của chúng tôi. Bằng cách áp dụng kỹ thuật học tăng cường, chúng tôi có thể giảm kích thước của mô hình đào tạo của mình trong khi vẫn đạt được độ cân bằng thích hợp giữa độ chính xác của mô hình và nén mạng. Amazon SageMaker RL cho phép chúng tôi đưa ý tưởng vào triển khai trong thời gian chưa đầy bốn tuần bằng cách loại bỏ tính phức tạp của việc chạy khối lượng công việc RL.”
"Ở NFL, chúng tôi sẽ phát triển số liệu cho sản phẩm Next Gen Stats hiệu quả hơn bằng cách sử dụng công nghệ AWS. Trước đây, Machine Learning và các phép tính khác có thể mất hàng tháng mới tinh chỉnh xong thì giờ đây chỉ mất vài tuần hoặc vài ngày, cho phép chúng tôi tương tác, thông báo và làm người hâm mộ phấn khích theo cách độc đáo và mới mẻ."
"Phía sau mỗi cú vuốt màn hình trên ứng dụng Tinder là cả một hệ thống quản lý hàng triệu yêu cầu trong một phút, hàng tỷ lượt vuốt mỗi ngày, trên hơn 190 quốc gia. Amazon SageMaker đơn giản hóa vấn đề machine learning, giúp các đội ngũ phát triển xây dựng mô hình dự đoán tạo kết nối mới mà trước đây chưa từng có khi công nghệ này chưa xuất hiện."
“Với Amazon SageMaker, chúng tôi có thể đẩy mạnh những sáng kiến Trí tuệ nhân tạo ở quy mô lớn bằng cách xây dựng và triển khai các thuật toán của chúng tôi trên nền tảng này. Chúng tôi sẽ tạo ra các thuật toán machine learning và AI mới trên quy mô lớn và triển khai chúng trên nền tảng này để giải quyết những vấn đề phức tạp, điều này có thể mang đến sự thịnh vượng cho khách hàng của chúng tôi."
“Amazon SageMaker RL đã giúp cho việc học tăng cường phân tán trở nên đơn giản, có thể thay đổi quy mô và giá cả phải chăng. Chúng tôi thiết kế protein bằng cách phát triển các công cụ tiên tiến cho việc khám phá và tối ưu hóa enzyme, do đó, cũng làm cho việc sản xuất hóa chất rẻ hơn và thân thiện với môi trường hơn. Với Amazon SageMaker RL, chúng tôi có thể sử dụng các nhóm khác nhau với các loại phiên bản khác nhau để đào tạo và chạy mô phỏng đã mang lại hiệu quả trong quá trình triển khai và giảm đáng kể chi phí của việc chạy khối lượng công việc RL. Với những khả năng này, chúng tôi sẽ có thể mở rộng khả năng với mô hình học tăng cường nhiều tác nhân.”
"Tại Hotels.com, chúng tôi luôn quan tâm đến việc tìm cách di chuyển nhanh hơn để tận dụng các công nghệ mới nhất cũng như luôn duy trì sự mới mẻ và sáng tạo. Với Amazon SageMaker, quy trình đào tạo được phân bổ, các thuật toán được tối ưu hóa và tính năng tham số tiền huấn luyện được tích hợp sẽ cho phép đội ngũ của tôi nhanh chóng xây dựng nhiều mô hình chính xác hơn trên các bộ dữ liệu lớn nhất của chúng tôi, giảm đáng kể thời gian di chuyển mô hình sang khâu sản xuất. Mọi thứ đơn giản đến mức chỉ cần thực hiện một lệnh gọi API. Amazon SageMaker sẽ giảm đáng kể sự phức tạp của machine learning, cho phép chúng tôi tạo ra trải nghiệm tốt hơn cho khách hàng của mình một cách nhanh chóng."
Matt Frye, Phó Chủ tịch kiêm Giám đốc Khoa học dữ liệu tại Hotels.com và Expedia Affiliate Network
Tích hợp machine learning vào các hệ thống và hoạt động thực tiễn là cách tuyệt vời để giúp người hâm mộ và 30 câu lạc bộ hiểu rõ hơn về môn thể thao này. Chúng tôi đã chọn AWS bởi vì họ có thế mạnh, chiều sâu và chuyên môn phân phối các dịch vụ machine learning đã được chứng minh để tạo cơ hội mới trong việc chia sẻ các số liệu chưa từng công bố.”
Jason Gaedtke, Giám đốc công nghệ, Major League Baseball
Xây dựng mô hình tiếp theo bằng phương pháp học tăng cường được quản lý toàn phần
Sử dụng phương pháp học tăng cường (RL) để xây dựng các mô hình phức tạp có thể đạt được kết quả cụ thể mà không cần dữ liệu đào tạo được gắn nhãn sẵn. RL hữu ích cho các trường hợp trong đó không có câu trả lời “thích hợp”để học nhưng lại có kết quả tối ưu, chẳng hạn như học lái xe ô tô hoặc thực hiện giao dịch tài chính tích cực. Thay vì xem xét dữ liệu lịch sử, thuật toán RL học bằng cách thực hiện hành động trong trình mô phỏng, trong đó phần thưởng và hình phạt giúp hướng mô hình tới hành vi mong muốn.
Amazon SageMaker RL bao gồm các thuật toán RL tích hợp và được quản lý toàn phần. SageMaker hỗ trợ RL trên nhiều khung, bao gồm cả TensorFlow và MXNet, cũng như các khung được phát triển tùy chỉnh được thiết kế từ đầu cho việc học tăng cường, chẳng hạn như Intel Coach và Ray RLlib.
Amazon SageMaker RL cũng hỗ trợ nhiều môi trường RL, bao gồm cả toàn bộ môi trường vật lý 2D và 3D, các môi trường mô phỏng thương mại chẳng hạn như MATLAB và Simulink và mọi môi trường hỗ trợ giao diện OpenAI Gym nguồn mở, bao gồm cả các môi trường được phát triển tùy chỉnh. Ngoài ra, SageMaker RL sẽ cho phép bạn đào tạo bằng cách dùng môi trường 3D ảo được tích hợp trong Amazon Sumerian và AWS RoboMaker. Điều này có nghĩa là bạn có thể tạo mô hình mọi thứ từ hệ thống quảng cáo và tài chính tới mô hình kiểm soát công nghiệp, robot và các phương tiện hoạt động độc lập.
Mở và linh hoạt
Machine learning theo cách của bạn
Công nghệ Machine Learning phát triển rất nhanh và bạn nên luôn linh hoạt khi truy cập vào một nhiều khung và công cụ khác nhau. Với Amazon SageMaker, bạn có thể sử dụng bộ chứa tích hợp cho mọi framework phổ biến hoặc dùng framework bạn yêu thích. Dù bằng cách nào, thì Amazon SageMaker sẽ quản lý hoàn toàn cơ sở hạ tầng cơ bản cần để xây dựng, đào tạo và triển khai các mô hình.
Hiệu suất biên tốt hơn
Mọi nhà phát triển cũng có thể sử dụng được các tính năng của SageMaker Neo thông qua dự án Neo nguồn mở. Chúng tôi tin rằng việc làm cho mọi người có thể chạy các mô hình ở mọi nơi là một bước cần thiết để machine learning phát huy hết tiềm năng. Bằng việc đóng góp vào nỗ lực nguồn mở, các nhà cung cấp phần cứng có thể cải thiện Neo nhờ các tối ưu hóa mới và cải tiến toàn bộ hệ sinh thái phần cứng cho machine learning.
SageMaker phù hợp với quy trình công việc của bạn
Về chi tiết, Amazon SageMaker bao gồm nhiều thành phần riêng biệt: Ground Truth, Máy tính xách tay, Đào tạo, Neo và Lưu trữ. Các thành phần này được thiết kế để hoạt động cùng nhau nhằm cung cấp dịch vụ machine learning cuối đến cuối. Tuy nhiên, các thành phần này cũng có thể được dùng độc lập để hỗ trợ quy trình công việc của machine learning hiện có hoặc nhằm hỗ trợ các mô hình chạy trong trung tâm dữ liệu hoặc tại biên.
Học tập và tăng tốc
AWS DeepRacer
Một xe đua tự động có tỷ lệ 1/18 được trang bị đầy đủ mọi thứ bạn cần để tìm hiểu về học tăng cường qua lái xe tự động.
AWS DeepLens
Học thị giác máy tính thông qua các dự án, hướng dẫn và thế giới thực, khám phá thực tế với máy quay video hỗ trợ mô hình Deep Learning đầu tiên dành cho nhà phát triển.
Đào tạo và Chứng nhận của AWS Machine Learning
Đại học AWS Machine Learning. Các khóa học theo cấu trúc cho Machine Learning dựa trên tài liệu tương tự được dùng để đào tạo các nhà phát triển Amazon thông qua sự kết hợp giữa kiến thức nền tảng và ứng dụng thế giới thực.
Amazon ML Solutions Lab
Amazon ML Solutions Lab ghép nhóm của bạn với các chuyên gia machine learning của Amazon. Dịch vụ này kết hợp các hội thảo giáo dục thực hành với các buổi tìm kiếm ý tưởng và dịch vụ tư vấn chuyên nghiệp để giúp bạn ‘lội ngược dòng để tìm hiểu’ từ những thách thức trong kinh doanh, sau đó từng bước thực hiện quá trình đưa một mô hình vào sản xuất. Sau đó, bạn sẽ có thể áp dụng những kiến thức đã học và sử dụng kiến thức đó ở mọi nơi trong tổ chức của mình để theo đuổi các cơ hội bổ sung.