通过 Azure OpenAI 服务使用 GPT-35-Turbo and GPT-4(win版)

官方文档

Azure OpenAI 是微软提供的一项云服务,旨在将 OpenAI 的先进人工智能模型与 Azure 的基础设施和服务相结合。通过 Azure OpenAI,开发者和企业可以访问 OpenAI 的各种模型,如 GPT-3、Codex 和 DALL-E 等,并将其集成到自己的应用程序和服务中。

调用方式

  1. API 调用:用户可以通过HTTP 请求来调用 Azure OpenAI 提供的 REST API。请求中需要包含 API 密钥进行身份验证,并指定所需的模型和参数。例如,发送 POST 请求到特定的 API 端点,附带请求体中的输入数据和请求头中的 API 密钥。

    import requestsurl = "https://<your-resource-name>.openai.azure.com/openai/deployments/<deployment-id>/completions?api-version=2023-07-01-preview"
    headers = {"Content-Type": "application/json","api-key": "<your-api-key>"
    }
    data = {"prompt": "Hello, world!","max_tokens": 5
    }response = requests.post(url, headers=headers, json=data)
    print(response.json())
    
  2. Azure SDK:微软提供了多种编程语言的 SDK(软件开发工具包),如 Python、C# 等,使得开发者能够更简便地与 Azure 服务进行交互。SDK 会封装底层的 API 调用,使得开发者可以通过更高层次的抽象和简化的代码来使用 Azure OpenAI 服务。

    以 Python SDK 为例:

    from azure.ai.openai import OpenAIClient
    from azure.identity import DefaultAzureCredential# 创建 OpenAI 客户端
    credential = DefaultAzureCredential()
    client = OpenAIClient(endpoint="https://<your-resource-name>.openai.azure.com/", credential=credential)# 调用模型生成文本
    response = client.completions.create(deployment_id="<deployment-id>",prompt="Hello, world!",max_tokens=5
    )print(response.choices[0].text)
    

Key 与 SDK 的区别

  1. API 密钥(Key)

    • 使用方式:通常直接通过 HTTP 请求的请求头或 URL 参数来传递。
    • 管理:需要在 Azure 门户中生成和管理 API 密钥。
    • 灵活性:可以在不依赖特定编程语言或 SDK 的情况下使用,适合任何可以发出 HTTP 请求的环境。
  2. SDK: 需要endpoint和api-key

    • 使用方式:通过调用封装在 SDK 中的函数或方法来进行 API 调用。

    • 集成:通常与 Azure 生态系统中的其他服务更紧密集成,提供更一致的开发体验。

总的来说,API 密钥适合需要直接和灵活访问 API 的场景,而 SDK 适合需要简化开发流程和更深度集成的场景。
在pycharm的终端terminal运行

pip install openai
$env:AZURE_OPENAI_API_KEY = 'REPLACE_WITH_YOUR_KEY_VALUE_HERE'
$env:AZURE_OPENAI_ENDPOINT = 'REPLACE_WITH_YOUR_ENDPOINT_HERE'
# [System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_API_KEY', 'REPLACE_WITH_YOUR_KEY_VALUE_HERE', 'User')
# [System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_ENDPOINT', 'REPLACE_WITH_YOUR_ENDPOINT_HERE', 'User')

创建一个新的.py运行即可测试

import os
from openai import AzureOpenAIclient = AzureOpenAI(azure_endpoint = os.getenv("AZURE_OPENAI_ENDPOINT"), api_key=os.getenv("AZURE_OPENAI_API_KEY"),  api_version="2024-02-01"
)response = client.chat.completions.create(model="gpt-35-turbo", # model = "deployment_name".messages=[{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Does Azure OpenAI support customer managed keys?"},{"role": "assistant", "content": "Yes, customer managed keys are supported by Azure OpenAI."},{"role": "user", "content": "Do other Azure AI services support this too?"}]
)print(response.choices[0].message.content)

运行即可python test.py。如果要换其他模型比如GPT-4o(可用于标准和全球标准模型部署。) 需要在该模型可用的受支持标准或全球标准区域中创建或使用现有资源。

创建资源后,可以部署 GPT-4o 模型。 如果要执行编程部署,则“模型”名称为 gpt-4o,“版本”名称为 2024-05-13
报错没有找到环境变量,在终端查看:Get-ChildItem Env: 发现没有设置成功

命令行:与操作系统交互的文本接口。
Bash:主要用于 Unix 系统,命令行解释器的一种。
PowerShell:起源于 Windows,命令行解释器的一种。
PyCharm 中的终端:可配置为多种 shell,适应不同开发需求,在win里面就用PowerShell,在linux里面就用Bash。

正确的添加,(开头代码已修改为正确

$env:AZURE_OPENAI_API_KEY = 'REPLACE_WITH_YOUR_KEY_VALUE_HERE'
$env:AZURE_OPENAI_ENDPOINT = 'REPLACE_WITH_YOUR_ENDPOINT_HERE'

原因,一个立即生效,一个有作用时间和范围

在 PowerShell 中,[System.Environment]::SetEnvironmentVariable
$env: 都是设置环境变量的方法,但它们的作用范围和生效时间有所不同,这就是为什么前者不行而后者可以的原因。

[System.Environment]::SetEnvironmentVariable 的行为

[System.Environment]::SetEnvironmentVariable
方法可以用于设置环境变量,并且可以指定作用范围(当前进程、当前用户、所有用户)。使用此方法设置的环境变量可能需要重新启动终端或进程才能生效,尤其是在
UserMachine 作用范围时。

# 设置当前用户范围的环境变量 [System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_API_KEY',
'REPLACE_WITH_YOUR_KEY_VALUE_HERE', 'User')
[System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_ENDPOINT',
'REPLACE_WITH_YOUR_ENDPOINT_HERE', 'User') ```此方法在 PyCharm 终端中可能不会立即生效,因为 PyCharm
终端是一个已经启动的进程,设置的用户或系统范围的环境变量不会影响当前已经运行的进程。### `$env:` 的行为`$env:` 是 PowerShell 中设置环境变量的另一种方式,这种方式直接在当前 PowerShell
会话中设置环境变量,并且立即生效。这就是为什么在 PyCharm 终端中使用 `$env:` 能够立即看到环境变量的变化。```powershell
# 设置当前 PowerShell 会话的环境变量 $env:AZURE_OPENAI_API_KEY = 'REPLACE_WITH_YOUR_KEY_VALUE_HERE' $env:AZURE_OPENAI_ENDPOINT =
'REPLACE_WITH_YOUR_ENDPOINT_HERE' ```### 区别总结1. **作用范围**- `[System.Environment]::SetEnvironmentVariable` 可以设置当前进程、当前用户或所有用户的环境变量。- `$env:` 仅在当前 PowerShell 会话中设置环境变量。2. **生效时间**- `[System.Environment]::SetEnvironmentVariable` 设置的环境变量可能需要重新启动终端或进程才能生效。- `$env:` 设置的环境变量在当前 PowerShell 会话中立即生效。3. **适用场景**- `[System.Environment]::SetEnvironmentVariable` 适用于需要在多个会话或系统范围内生效的环境变量设置。- `$env:` 适用于需要在当前 PowerShell 会话中临时使用的环境变量设置。### 为什么前者不行后者可以在 PyCharm 终端中,使用 `[System.Environment]::SetEnvironmentVariable`
设置用户范围的环境变量不会立即在当前终端会话中生效,因为当前终端是一个已经运行的进程,新的环境变量设置不会影响到它。而使用 `$env:`
则会立即在当前 PowerShell 会话中生效,因此可以立即看到和使用新设置的环境变量。### 建议的使用方法如果您需要在当前 PyCharm 终端会话中设置环境变量,请使用 `$env:` 方式:```powershell $env:AZURE_OPENAI_API_KEY =
'REPLACE_WITH_YOUR_KEY_VALUE_HERE' $env:AZURE_OPENAI_ENDPOINT =
'REPLACE_WITH_YOUR_ENDPOINT_HERE' ```如果您需要在多个会话或系统范围内生效,请使用 `[System.Environment]::SetEnvironmentVariable`
并重新启动终端或系统以确保设置生效:```powershell
[System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_API_KEY',
'REPLACE_WITH_YOUR_KEY_VALUE_HERE', 'User')
[System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_ENDPOINT',
'REPLACE_WITH_YOUR_ENDPOINT_HERE', 'User') ```这样可以确保环境变量在不同的使用场景中正确设置和生效。

response内容:

{"id": "chatcmpl-9k4JY8EuQR3TLfai4ze8TMNylKTB0","choices": [{"finish_reason": "stop","index": 0,"logprobs": null,"message": {"content": "Yes, several other Azure AI services also support customer managed keys (CMK). This capability allows you to have greater control over the encryption of your data by using your own encryption keys stored in Azure Key Vault. Some of the Azure AI services that support CMK include:\n\n1. **Azure Cognitive Services**:\n   - Text Analytics\n   - Computer Vision\n   - Translator\n   - Speech Services\n\n2. **Azure Machine Learning**:\n   - Offers encryption of data at rest using customer managed keys.\n\n3. **Azure Synapse Analytics**:\n   - Provides support for customer managed keys for data encryption.\n\nBy using customer managed keys, you can satisfy compliance requirements and have more control over key rotation and revocation. For specific implementation details and supported features, it's always a good idea to check the latest documentation for each service, as Microsoft regularly updates and expands their support for security features.","role": "assistant","function_call": null,"tool_calls": null},"content_filter_results": {"hate": {"filtered": false, "severity": "safe"},"self_harm": {"filtered": false, "severity": "safe"},"sexual": {"filtered": false, "severity": "safe"},"violence": {"filtered": false, "severity": "safe"}}}],"created": 1720766700,"model": "gpt-4o-2024-05-13","object": "chat.completion","service_tier": null,"system_fingerprint": "fp_abc28019ad","usage": {"completion_tokens": 179,"prompt_tokens": 55,"total_tokens": 234},"prompt_filter_results": [{"prompt_index": 0,"content_filter_results": {"hate": {"filtered": false, "severity": "safe"},"self_harm": {"filtered": false, "severity": "safe"},"sexual": {"filtered": false, "severity": "safe"},"violence": {"filtered": false, "severity": "safe"}}}]
}

可以看到response里面只有一个choice 为choice[0],所以是response.choices[0].message.content。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/44460.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

input上传--upload

1.HTML <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><title>上传文件</title><link rel"…

《C++并发编程实战》笔记(一、二)

一、简介 抽象损失&#xff1a;对于实现某个功能时&#xff0c;可以使用高级工具&#xff0c;也可以直接使用底层工具。这两种方式运行的开销差异称为抽象损失。 二、线程管控 2.1 线程的基本控制 1. 创建线程 线程相关的管理函数和类在头文件&#xff1a; #include <…

数据结构——线性表(C语言实现)

写在前面&#xff1a; 在前面C语言的结构体学习中&#xff0c;我提及了链表的操作&#xff0c; 学习数据结构我认为还是需要对C语言的数组、函数、指针、结构体有一定的了解&#xff0c;不然对于结构体的代码可能很难理解&#xff0c;特别是一些书籍上面用的还是伪代码&#xf…

OpenGL笔记一之基础窗体搭建以及事件响应

OpenGL笔记一之基础窗体搭建以及事件响应 总结自bilibili赵新政老师的教程 code review! 文章目录 OpenGL笔记一之基础窗体搭建以及事件响应1.运行2.目录结构3.main.cpp4.CMakeList.txt 1.运行 2.目录结构 01_GLFW_WINDOW/ ├── CMakeLists.txt ├── glad.c ├── main…

Linux基于centos7指令初学3

date指令 作用&#xff1a; date指令可以查看时间 这个指令可以进行格式化 格式&#xff1a;date %想要的内容 Y&#xff1a;年份 m&#xff1a;月份 d&#xff1a;日 H&#xff1a;时 M&#xff1a;分 S&#xff1a;秒 时间分界线可以由…

GIT相关操作,推送本地分支到远程仓库流程记录学习

git流程 切换到源文件夹&#xff1a;cd 源文件夹克隆远程仓库&#xff1a;git clone [ssh]进入项目文件夹&#xff1a;cd .\project\查看本地分支&#xff1a;git branch获取远程仓库更新&#xff0c;使远程同步&#xff1a;git fetch查看所有分支&#xff08;包括远程分支&am…

OJ-0712

示例1&#xff1a; input 8 123 124 125 121 119 122 126 123 output 1 2 6 5 5 6 0 0示例2&#xff1a; input 2 95 100 output 1 0示例3&#xff1a; input 2 100 95 output 0 1package com.wsdcode.od;import java.util.Scanner;public class Main {public static void m…

LabVIEW比例压力控制阀自动测试系统

开发了一套基于LabVIEW编程和PLC控制的比例控制阀自动测试系统。该系统能够实现共轨管稳定的超高压供给&#xff0c;自动完成比例压力控制阀的耐久测试、流量滞环测试及压力-流量测试。该系统操作简便&#xff0c;具有高精度和高可靠性&#xff0c;完全满足企业对自动化测试的需…

安装jenkins最新版本初始化配置及使用JDK1.8构建项目详细讲解

导读 1.安装1.1.相关网址1.2.准备环境1.3.下载安装 2. 配置jenkins2.1.安装插件2.2.配置全局工具2.3.系统配置 3. 使用3.1.配置job3.2.构建 提示&#xff1a;如果只想看如何使用jdk1.8构建项目&#xff0c;直接看3.1即可。 1.安装 1.1.相关网址 Jenkins官网&#xff1a;https…

RabbitMq如何保证消息的可靠性和稳定性

RabbitMq如何保证消息的可靠性和稳定性 rabbitMq不会百分之百让我们的消息安全被消费&#xff0c;但是rabbitMq提供了一些机制来保证我们的消息可以被安全的消费。 消息确认 消息者在成功处理消息后可以发送确认&#xff08;ACK&#xff09;给rabbitMq&#xff0c;通知消息已…

Hadoop-25 Sqoop迁移 增量数据导入 CDC 变化数据捕获 差量同步数据 触发器 快照 日志

章节内容 上节我们完成了如下的内容&#xff1a; Sqoop MySQL迁移到HiveSqoop Hive迁移数据到MySQL编写脚本进行数据导入导出测试 背景介绍 这里是三台公网云服务器&#xff0c;每台 2C4G&#xff0c;搭建一个Hadoop的学习环境&#xff0c;供我学习。 之前已经在 VM 虚拟机…

计算机的错误计算(二十九)

摘要 &#xff08;1&#xff09;讨论近似值的错误数字个数。有时&#xff0c;遇到数字9或0, 不太好确认近似值的错误数字个数。&#xff08;2&#xff09;并进一步解释确认计算机的错误计算&#xff08;二十八&#xff09;中一个函数值的错误数字个数。 理论上&#xff0c;我…

py2neo常用语句

1.连接数据库 Neo4j服务器默认的端口号就是7474,所以本地的主机就是"http://localhost:7474" 。 默认的用户名密码都是neo4j&#xff0c; # 连接数据库&#xff0c;输入个人配置 graph Graph("http://localhost:7474//browser/", auth("neo4j"…

百日筑基第十九天-一头扎进消息队列2

百日筑基第十九天-一头扎进消息队列2 消息队列的通讯协议 目前业界的通信协议可以分为公有协议和私有协议两种。公有协议指公开的受到认可的具有规 范的协议&#xff0c;比如 JMS、HTTP、STOMP 等。私有协议是指根据自身的功能和需求设计的协 议&#xff0c;一般不具备通用性&…

数学建模·熵权法

熵权法 一种计算评价指标之间权重的方法。熵权法是一种客观的方法&#xff0c;没有主观性&#xff0c;比较可靠。 具体定义 熵权法的核心在于计算信息熵&#xff0c;信息熵反映了一个信息的紊乱程度&#xff0c;体现了信息的可靠性 具体步骤 Step1正向化处理 将所以评价指标转…

智能家居装修怎么布线?智能家居网络与开关插座布置

打造全屋智能家居。计划的智能家居方案以米家系列为主&#xff0c;智能家居联网方案以无线为主。装修前为了装备智能家居做了很多准备工作&#xff0c;本文深圳侨杰智能分享一个智能家居装修和布线方面的心得与实战知识。希望能对大家的装修有所帮助。 ​1.关于网络 如果房子比…

HTML基本标签(二)

HTML基本标签&#xff08;二&#xff09; 表格标签 table媒体元素audio 音频vido 视频 form 表单元素 表格标签 table <!-- caption 代表表格标题相关属性border 边框cellpadding 设置单元格内填充cellspacing 设置单元格间空隙width 设置表格宽度&#xff0c;默认是内容撑…

Python-数据爬取(爬虫)

~~~理性爬取~~~ 杜绝从入门到入狱 1.简要描述一下Python爬虫的工作原理&#xff0c;并介绍几个常用的Python爬虫库。 Python爬虫的工作原理 发送请求&#xff1a;爬虫向目标网站发送HTTP请求&#xff0c;通常使用GET请求来获取网页内容。解析响应&#xff1a;接收并解析HTTP响…

结合实体类型信息1——基于本体的知识图谱补全深度学习方法

1 引言 1.1 问题 目前KGC和KGE提案的两个主要缺点是:(1)它们没有利用本体信息;(二)对训练时未见的事实和新鲜事物不能预测的。 1.2 解决方案 一种新的知识图嵌入初始化方法。 1.3 结合的信息 知识库中的实体向量表示&#xff0b;编码后的本体信息——>增强 KGC 2基…

基于AT89C51单片机超声波水位液位控制系统设计(含文档、源码与proteus仿真,以及系统详细介绍)

本篇文章论述的是基于AT89C51单片机的1616点阵LED显示器字符滚动显示设计的详情介绍&#xff0c;如果对您有帮助的话&#xff0c;还请关注一下哦&#xff0c;如果有资源方面的需要可以联系我。 目录 设计任务与要求 原理图 仿真图 代码 系统论文 资源下载 设计任务与要求…