如何在 API 上运行 Meta Llama 3.1 405B

Replicate 平台支持通过 API 调用 Meta Llama 3.1 405B 模型。该模型拥有 4050 亿参数，上下文窗口为 8000 token，支持 8 种语言，在多项基准测试中接近 GPT-4 水平。文章提供了 JavaScript、Python 和 cURL 三种调用方式的代码示例，并介绍了 Purple Llama 安全工具套件。