LLM——深入探索 ChatGPT在代码解释方面的应用研究

1.概述

OpenAI在自然语言处理（NLP）的征途上取得了令人瞩目的进展，这一切得益于大型语言模型（LLM）的诞生与成长。这些先进的模型不仅是技术创新的典范，更是驱动着如GitHub Copilot编程助手和Bing搜索引擎等广泛使用产品的技术核心。它们以其卓越的记忆和信息整合能力，在代码编写和文本生成等领域设定了新的行业标杆，展现了前所未有的性能标准。

当我们谈及ChatGPT代码解释器的影响力时，首先需要明白它是什么，以及它背后的构建原理。

本质上，ChatGPT代码解释器是ChatGPT能力的延伸，它不仅增强了对代码的理解和解释，更具备了跨多种编程语言生成代码的能力。这一创新功能将ChatGPT的角色从单一的文本生成器，转变为软件开发者的重要伙伴，它在代码理解、调试，乃至于代码生成等方面提供了巨大的帮助。

通过这种转变，ChatGPT代码解释器成为了一个强大的开发工具，它不仅能够提升开发效率，还能在编程教育、技术交流等多个领域发挥重要作用。这一进步标志着人工智能在编程领域的应用进入了一个新的阶段，为未来的技术革新和行业发展开辟了广阔的可能性。

2. GPT：Codex 方法

GitHub Copilot 和 ChatGPT 的代码解释器是 OpenAI 利用 Codex 模型开发的先进技术，它们展示了 OpenAI 在大型语言模型（LLM）领域的突破性进展。Codex 是一种经过精心训练的 GPT 语言模型，专门针对 Python 编程语言，其能力在 GitHub 公开源代码的数据集上得到了锻炼和证明。

Codex 的强大之处在于其卓越的代码编写和理解能力，这些能力在 GitHub Copilot 中得到了实际应用，为开发者提供了实时的编码辅助。在评估 Codex 从文档字符串合成程序的能力时，Codex 显著超越了 GPT-3 和 GPT-J，这证明了 Codex 在编程任务中的高效性和准确性。

特别引人注目的是 Codex 的重复采样策略，这一策略极大地提升了模型解决复杂问题的能力。当每个问题通过模型生成多达 100 个样本时，Codex 解决问题的成功率飙升至 70.2%。这一发现揭示了通过启发式方法选择准确代码样本的可能性，而不必对每个样本进行详尽的评估。

为了全面评估 Codex 的性能，研究团队创建了一个包含 164 个独特编程问题的定制数据集，这些问题覆盖了语言理解、算法和基础数学等领域，与简单的软件面试问题相当。Codex 在这个数据集上的表现令人印象深刻，即使是面对具有 12B 参数的模型，Codex 也能在单次尝试中解决 28.8% 的问题。

Codex 模型的训练数据 - chatgpt 代码解释器

通过对正确实现的独立函数进行微调，Codex 模型的性能得到了显著提升，从而诞生了 Codex-S。这一改进版本在面对挑战时展现出了更高的效率，首次尝试解决挑战的成功率提高到了 37.7%。这一跃升不仅证明了微调过程的有效性，也突显了 Codex 在理解和生成 Python 代码方面的专业能力。

然而，在现实世界的编程实践中，开发过程往往充满了试错。程序员经常需要多次尝试和修正，才能找到解决问题的正确方法。为了模拟这一过程，Codex-S 模型采用了一种策略：在面对每个问题时，模型被给予了 100 次生成解决方案的机会。通过这种方式，Codex-S 能够从众多选项中选择出能够通过所有单元测试的正确函数，从而成功解决了 77.5% 的问题。

Chatgpt 微调架构
生成模型如ChatGPT在评估代码生成能力时，传统上依赖于将生成的代码样本与某个参考解决方案进行比较，这种比较可能是严格的匹配或者采用BLEU分数这样的模糊匹配度量。然而，这些基于匹配的度量方式通常难以捕捉代码的细微差别，尤其是在语义特征方面。

为了解决这一问题，提出了一个新的评估标准——功能正确性。这一标准强调的是，模型生成的代码不仅需要在形式上正确，更重要的是要能够在实际运行中通过一系列单元测试，验证其功能的有效性和准确性。这与软件开发中的标准实践相一致，开发者通常通过编写和执行单元测试来评估代码的质量。

基于功能正确性，引入了pass@k度量标准，它指的是如果生成的“k”个代码样本中任何一个通过了单元测试，则认为该问题已被解决。为了减少评估过程中的高方差问题，不直接使用pass@k的直接形式，而是采用无偏估计器来计算pass@k值。

在对ChatGPT的代码能力进行评估时，研究者利用了人类评估数据集，该数据集包含手写的Python问题，每个问题都配备了单元测试。这种方法允许研究者以一种更接近真实编程任务的方式来评估模型的性能。

为了安全地执行和测试生成的代码，研究者设计了一个沙箱环境。这个沙箱环境使用了gVisor作为其主要的宿主保护组件。gVisor通过模拟系统资源，在主机系统和运行的代码之间建立了一个安全边界，从而防止恶意代码对宿主系统或网络造成损害。通过这种方式，即使模型生成了恶意代码，也能够确保测试过程的安全性。

Chatgpt 打开 ai 训练数据集示例

3. 使用 ChatGPT 代码解释器

OpenAI 的 ChatGPT 经历了不断的演变，其中最新引入的代码解释器功能堪称革命性创新。这项功能与强大的 GPT-4模型结合，为用户提供了一种全新的交互体验，使得对话和计算任务之间的界限变得模糊。

代码解释器本质上相当于在聊天机器人中嵌入了一个功能完备的计算机。它为用户带来了临时磁盘空间，可以上传多种文件格式，包括常见的 TXT、PDF、JPEG，以及专业的 CPP、PY 和 SQLite 等。这种广泛的文件支持大大增强了 ChatGPT 在处理文档和图像等任务时的多功能性。

在安全性方面，代码解释器在一个强大而安全的沙盒环境中运行，预装了 300 多个库，确保了计算过程的安全，同时提供了强大的计算能力。一个引人注目的特点是，代码解释器能够实时编写 Python 脚本来响应用户请求，例如，用户可以上传一个基于图像的 PDF 文件，ChatGPT 将利用 OCR 技术将其转换为可搜索的格式。

关于上传文件的大小限制，尽管最终规格尚未公布，但用户测试表明，该系统能够有效处理超过 100MB 的文件。重要的是要注意，这些文件是临时性的，聊天会话结束后将被自动丢弃。

代码解释器的推出，不仅展示了 OpenAI 在技术实力上的进步，也体现了其对产品的可访问性的关注。ChatGPT Plus 的订阅者可以享受到这一功能，它随着 GPT-4 模型的发布而提供给更广泛的用户群体。

代码解释器与传统的 ChatGPT 模型的主要区别在于交互方式。标准模型主要生成文本响应，而代码解释器则理解并执行代码，提供直接的结果。这使得它不仅对技术专业人士极具价值，也使得没有编码知识的用户能够执行复杂的计算任务。

ChatGPT 代码解释器的功能有潜力彻底改变软件开发和数据科学领域：

自动代码生成：系统可以根据高级描述自动生成软件应用程序和数据分析脚本的样板结构或复杂代码片段，加速开发流程。
代码审查和数据验证：人工智能工具如 ChatGPT 可以帮助提升软件代码库的质量和安全性，在数据科学中，也有助于审查和验证数据处理脚本，确保准确性和效率。
数据分析协助：数据科学家可以利用 ChatGPT 代码解释器生成用于数据探索、可视化和基本统计测试的代码，简化数据分析工作流程。

对 ChatGPT 及其在即时工程中复杂性的进一步了解，可以通过 Unite AI 提供的 “[ChatGPT：高级提示工程]” 获取。

要设置 ChatGPT 代码解释器，用户可以访问 ChatGPT，进入设置页面，探索 Beta 功能部分，并激活代码解释器功能。这将允许平台解释用户的查询，将其作为 Python 代码执行，并以交互式聊天格式展示结果。

4.探索 ChatGPT 代码解释器的优势

4.1 数据可视化 & 分析

ChatGPT 超越了传统图表的范围，提供传统和创新的图形表示。这确保用户可以以提供最有意义的见解的格式查看数据。

然而，这不仅仅是可视化原始数据。 ChatGPT 模型擅长处理和提炼数据。虽然功能强大，但用户应谨慎使用。

金融分析师会发现代码解释器分析和可视化股票价格的能力特别有用。通过无缝集成，用户可以上传数据集并以各种格式可视化它们。当个人可以进行复杂的数据分析时，此功能的重要性就很明显。

下面的视频演示了 ChatGPT 的代码解释器如何创建一个全面的 TSLA 股票分析。

关键点:

特斯拉的股票面临波动，但在增长时期也显示出弹性。
特定日期的高交易量表明市场有浓厚的兴趣或对关键事件的反应。
年初至今（YTD）回报率的下降表明，投资者在考虑未来投资时应同时分析公司内部因素和外部市场状况。

4.2 计算机视觉和 OCR

人脸检测是计算机视觉中的一项重要功能，它是通过一种经典技术来实现的： Haar级联分类器来自 OpenCV。

下图展示了经典 Haar Cascade 分类器的使用。

从图像中提取文本的过程（称为光学字符识别 (OCR)）是使用 Tesseract 无缝实现的，文本随后由 GPT-4 结构化，从而增强了可理解性。

在以下视频中，了解 Tesseract (OCR) 如何从证书图像中提取文本。

代码解释器在视频、音频和图像处理领域表现出色。通过简单的命令，用户可以实现详细的编辑，例如将 GIF 转换为具有特定增强功能的 MP4。只需上传您的文件，输入您想要的修改，然后观看奇迹的发生。

5. ChatGPT 代码解释器内的 Python 外部库

ChatGPT 代码解释器是一个动态编程平台，配备了一组广泛的 Python 库。这些涵盖了从 Seaborn 的数据可视化到 Torch 的高级机器学习的一切。但它不仅仅是一个静态工具包。

受此启发聊天页面来自科拉科特·乔瓦瓦尼奇。

从最新的开始 nltk发布，我们将 .whl 文件上传到解释器。然后，我们指示 ChatGPT 通过分析现有包的位置来找到合适的站点包目录。下一步涉及将wheel文件解压到临时位置并将文件移动到识别的站点包目录。然而，这遇到了障碍。

为了寻求解决方法，我们提示：“请确保 NLTK 安装在 Python 环境中，并且安装后可以访问。”

ChatGPT 做出了回应，提供了解决方案。它建议将临时目录添加到 sys.path，允许 Python 识别并从该位置内解压的 nltk 包中提取模块。这一策略产生了奇迹，导致 NLTK 成功安装。

通过使用 .whl 文件，安装展示了独创性和适应性的结合。尽管面临最初的挑战，ChatGPT 代码解释器还是表现出了其多功能性和满足编码人员需求的承诺，确保新手和老手都能获得精致的编码体验。

在 chatgpt 代码解释器中安装自定义库
@DominikPeters 最近发布的一条推文强调了一次独特的演示，精彩地展示了口译员的能力。 Peters 要求 GPT-4 生成有关巴黎各区的测验，该模型提供了一个运行良好的网站。工作测验可在 dominik-peters.de/gpt-arrondissement-quiz/ 上获得实践体验。