1. 配置基础环境
首先,打开 Intern Studio
界面,点击 创建开发机 配置开发机系统。
InternStudio
填写 开发机名称
后,点击 选择镜像 使用 Cuda11.7-conda
镜像,然后在资源配置中,使用 10% A100 * 1
的选项,然后立即创建开发机器。
点击 进入开发机
选项。
2.连接开发机
可以在页面上进入开发机,又或者通过ssh客户端连接。这里主要演示通过ssh客户端连接。
点击ssh连接可以看到连接和密码。
我这里用xshell进行连接。新建连接,在连接填写主机和端口。
在“用户身份验证”菜单填写用户名和密码:
填好后连接就可以登录开发机:
3.通过VScode进行ssh连接
想要在vscode通过ssh连接,首先要安装ssh连接插件:
安装好后,在SSH远程机器页面添加连接。
输入连接命令
ssh -p 48949 root@ssh.intern-ai.org.cn -o StrictHostKeyChecking=no -o UserKnownHostsFile=/dev/null
添加配置
Host ssh.intern-ai.org.cn #主机ip也可以是域名
HostName ssh.intern-ai.org.cn #主机名
Port 48949 #主机的SSH端口
User root #登录SSH使用的用户
StrictHostKeyChecking no
UserKnownHostsFile /dev/null
添加成功,即可点击connet 连接:
输入密码:
连接成功:
4. 端口映射
端口映射的作用是通过ssh通道,将服务器的端口映射到本地端口,实现内网穿透。
现在大部分ssh客户端都支持配置ssh通道,现以xshell为例配置。
编辑前面已经配置好的连接,选择隧道:
源主机指本地,填写本地想开放的端口;
目标主机指远程主机,可以填写远程网络内的ip,
因为这里就是映射远程主机的端口,就填写回环地址127.0.0.1,和远程服务的端口:
保存,重新连接,通道就建好了。
现在起一个服务测试一下,创建一个hello_world.py程序:
import socket
import re
import gradio as gr# 获取主机名
def get_hostname():hostname = socket.gethostname()match = re.search(r'-(\d+)$', hostname)name = match.group(1)return name# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:html_code = f"""<p align="center"><a href="https://intern-ai.org.cn/home"><img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;"></a></p><h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1><h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2><p align="center"><a href="https://github.com/InternLM/Tutorial/blob/camp3"><img src="https://oss.lingkongstudy.com.cn/blog/202410081252022.png" alt="Logo" width="50%" style="border-radius: 5px;"></a></p>"""gr.Markdown(html_code)demo.launch()
因为用到gradio,所以先安装gradio:
pip install gradio==4.29.0
然后运行:
python hellow_world.py
运行成功后就可以在本地打开服务网页了: