關於Linux的視頻編程(v4l2編程)

前言：

目前正在忙於ARM平台的Linux應用程式的開發（其實是剛剛起步學習啦）。底層的東西不用考慮了，開發板子提供了NAND Bootloader，和Linux 2.6的源碼，而且都編譯好了。自己編譯的bootloader可以用，但是Linux編譯後，檔案很大，暫且就用人家編譯的系統，先專心寫應用程式 吧。。

本文：要做的任務是，把一塊板子上的網路攝影機採集的映像和音效卡採集的聲音（貌似很囉嗦哈）通過TCP/IP協議傳輸到另一塊板子上。第一步，先把視頻擷取並且在本地LCD上顯示。看了板子提供的文檔，視頻傳輸需要用V4L2的API。

一.什麼是video4linux
Video4linux2（簡稱V4L2),是linux中關於視頻裝置的核心驅動。在Linux中，視頻裝置是裝置檔案，可以像訪問普通檔案一樣對其進行讀寫，網路攝影機在/dev/video0下。

二、一般操作流程（視頻裝置）：
1. 開啟裝置檔案。 int fd=open(”/dev/video0″,O_RDWR);
2. 取得裝置的capability，看看裝置具有什麼功能，比如是否具有視頻輸入,或者音頻輸入輸出等。VIDIOC_QUERYCAP,struct v4l2_capability
3. 選擇視頻輸入，一個視頻裝置可以有多個視頻輸入。VIDIOC_S_INPUT,struct v4l2_input
4. 設定視頻的制式和框架格式，制式包括PAL，NTSC，幀的格式個包括寬度和高度等。
VIDIOC_S_STD,VIDIOC_S_FMT,struct v4l2_std_id,struct v4l2_format
5. 向驅動申請幀緩衝，一般不超過5個。struct v4l2_requestbuffers
6. 將申請到的幀緩衝映射到使用者空間，這樣就可以直接操作採集到的幀了，而不必去複製。mmap
7. 將申請到的幀緩衝全部入隊列，以便存放採集到的資料.VIDIOC_QBUF,struct v4l2_buffer
8. 開始視頻的採集。VIDIOC_STREAMON
9. 出隊列以取得已採集資料的幀緩衝，取得原始採集資料。VIDIOC_DQBUF
10. 將緩衝重新入隊列尾,這樣可以迴圈採集。VIDIOC_QBUF
11. 停止視頻的採集。VIDIOC_STREAMOFF
12. 關閉視頻裝置。close(fd);

三、常用的結構體(參見/usr/include/linux/videodev2.h)：

struct v4l2_requestbuffers reqbufs;//向驅動申請幀緩衝的請求，裡麵包含申請的個數
struct v4l2_capability cap;//這個裝置的功能，比如是否是視頻輸入裝置
struct v4l2_input input; //視頻輸入
struct v4l2_standard std;//視頻的制式，比如PAL，NTSC
struct v4l2_format fmt;//幀的格式，比如寬度，高度等

struct v4l2_buffer buf;//代表驅動中的一幀
v4l2_std_id stdid;//視頻制式，例如：V4L2_STD_PAL_B
struct v4l2_queryctrl query;//查詢的控制
struct v4l2_control control;//具體控制的值

下面具體說明開發流程（網上找的啦，也在學習麼）

 

 

開啟視頻裝置

在V4L2中，視頻裝置被看做一個檔案。使用open函數開啟這個裝置：

1. // 用非阻塞模式開啟網路攝影機裝置
2. int cameraFd;
3. cameraFd = open(“/dev/video0″, O_RDWR | O_NONBLOCK, 0);
4. // 如果用阻塞模式開啟網路攝影機裝置，上述代碼變為：
5. //cameraFd = open(”/dev/video0″, O_RDWR, 0);

關於阻塞模式和非阻塞模式

應用程式能夠使用阻塞模式或非阻塞模式開啟視頻裝置，如果使用非阻塞模式調用視頻裝置，即使尚未捕獲到資訊，驅動依舊會把緩衝（DQBUFF）裡的東西返回給應用程式。

設定屬性及採集方式

開啟視頻裝置後，可以設定該視頻裝置的屬性，例如裁剪、縮放等。這一步是可選的。在Linux編程中，一般使用ioctl函數來對裝置的I/O通道進行管理：

extern int ioctl (int __fd, unsigned long int __request, …) __THROW;

__fd：裝置的ID，例如剛才用open函數開啟視頻通道後返回的cameraFd；

__request：具體的命令標誌符。

在進行V4L2開發中，一般會用到以下的命令標誌符：

1. VIDIOC_REQBUFS：分配記憶體
2. VIDIOC_QUERYBUF：把VIDIOC_REQBUFS中分配的資料緩衝轉換成物理地址
3. VIDIOC_QUERYCAP：查詢驅動功能
4. VIDIOC_ENUM_FMT：擷取當前驅動支援的視頻格式
5. VIDIOC_S_FMT：設定當前驅動的頻捕獲格式
6. VIDIOC_G_FMT：讀取當前驅動的頻捕獲格式
7. VIDIOC_TRY_FMT：驗證當前驅動的顯示格式
8. VIDIOC_CROPCAP：查詢驅動的修剪能力
9. VIDIOC_S_CROP：設定視頻訊號的邊框
10. VIDIOC_G_CROP：讀取視頻訊號的邊框
11. VIDIOC_QBUF：把資料從緩衝中讀取出來
12. VIDIOC_DQBUF：把資料放回緩衝隊列
13. VIDIOC_STREAMON：開始視頻顯示函數
14. VIDIOC_STREAMOFF：結束視頻顯示函數
15. VIDIOC_QUERYSTD：檢查當前視頻裝置支援的標準，例如PAL或NTSC。

這些IO調用，有些是必須的，有些是可選擇的。

檢查當前視頻裝置支援的標準

在亞洲，一般使用PAL（720X576）制式的網路攝影機，而歐洲一般使用NTSC（720X480），使用VIDIOC_QUERYSTD來檢測：

1. v4l2_std_id std;
2. do {
3. ret = ioctl(fd, VIDIOC_QUERYSTD, &std);
4. } while (ret == -1 && errno == EAGAIN);
5. switch (std) {
6. case V4L2_STD_NTSC:
7. //……
8. case V4L2_STD_PAL:
9. //……
10. }

設定視頻捕獲格式

當檢測完視頻裝置支援的標準後，還需要設定視頻捕獲格式：

1. struct v4l2_format     fmt;
2. memset ( &fmt, 0, sizeof(fmt) );
3. fmt.type = V4L2_BUF_TYPE_VIDEO_CAPTURE;
4. fmt.fmt.pix.width = 720;
5. fmt.fmt.pix.height = 576;
6. fmt.fmt.pix.pixelformat = V4L2_PIX_FMT_YUYV;
7. fmt.fmt.pix.field = V4L2_FIELD_INTERLACED;
8. if (ioctl(fd, VIDIOC_S_FMT, &fmt) == -1) {
9. return -1;
10. }

v4l2_format結構體定義如下：

1. struct v4l2_format
2. {
3. enum v4l2_buf_type type;//資料流類型，必須永遠是V4L2_BUF_TYPE_VIDEO_CAPTURE
4. union
5. {
6. struct v4l2_pix_format     pix;
7. struct v4l2_window         win;
8. struct v4l2_vbi_format     vbi;
9. __u8     raw_data[200];
10. } fmt;
11. };
13. struct v4l2_pix_format
14. {
15. __u32                    width;   // 寬，必須是16的倍數
16. __u32                    height;  // 高，必須是16的倍數
17. __u32                    pixelformat;//視頻資料存放區類型，如YUV422,RGB
18. enum v4l2_field          field;
19. __u32                    bytesperline;
20. __u32                    sizeimage;
21. enum v4l2_colorspace     colorspace;
22. __u32                    priv;
23. };

分配記憶體

接下來可以為視頻捕獲分配記憶體：

1. struct v4l2_requestbuffers   req;
2. if (ioctl(fd, VIDIOC_REQBUFS, &req) == -1) {
3. return -1;
4. }

v4l2_requestbuffers定義如下：

1. struct v4l2_requestbuffers
2. {
3. __u32 count;  //緩衝數量，也就是說在緩衝隊列裡保持多少張照片
4. enum v4l2_buf_type type;// 資料流類型，必須永遠是V4L2_BUF_TYPE_VIDEO_CAPTURE
5. enum v4l2_memory    memory; // V4L2_MEMORY_MMAP 或 V4L2_MEMORY_USERPTR
6. __u32               reserved[2];
7. };

擷取並記錄緩衝的物理空間

使用VIDIOC_REQBUFS，我們擷取了req.count個緩衝，下一步通過調用VIDIOC_QUERYBUF命令來擷取這些緩衝的地址，然後使用mmap函數轉換成應用程式中的絕對位址，最後把這段緩衝放入緩衝隊列：

1. typedefstruct VideoBuffer {
2. void *start;
3. size_t   length;
4. } VideoBuffer;
7. VideoBuffer*           buffers = calloc( req.count, sizeof(*buffers) );
8. struct v4l2_buffer     buf;
10. for (numBufs = 0; numBufs < req.count; numBufs++) {
11. memset( &buf, 0, sizeof(buf) );
12. buf.type = V4L2_BUF_TYPE_VIDEO_CAPTURE;
13. buf.memory = V4L2_MEMORY_MMAP;
14. buf.index = numBufs;
15. // 讀取緩衝
17. if (ioctl(fd, VIDIOC_QUERYBUF, &buf) == -1) {
18. return -1;
19. }
21. buffers[numBufs].length = buf.length;
23. // 轉換成相對位址
24. buffers[numBufs].start = mmap(NULL, buf.length,
25. PROT_READ | PROT_WRITE,
26. MAP_SHARED,
27. fd, buf.m.offset);
29. if (buffers[numBufs].start == MAP_FAILED) {
30. return -1;
31. }
33. // 放入緩衝隊列
34. if (ioctl(fd, VIDIOC_QBUF, &buf) == -1) {
35. return -1;
36. }
37. }

關於視頻採集方式

作業系統一般把系統使用的記憶體劃分成使用者空間和核心空間，分別由應用程式管理和作業系統管理。應用程式可以直接存取記憶體的地址，而核心空間存放的是 供核心訪問的代碼和資料，使用者不能直接存取。v4l2捕獲的資料，最初是存放在核心空間的，這意味著使用者不能直接存取該段記憶體，必須通過某些手段來轉換地 址。

一共有三種視頻採集方式：使用read、write方式；記憶體映射方式和使用者指標模式。

read、write方式:在使用者空間和核心空間不斷拷貝資料，佔用了大量使用者記憶體空間，效率不高。

記憶體映射方式：把裝置裡的記憶體映射到應用程式中的記憶體控制項，直接處理裝置記憶體，這是一種有效方式。上面的mmap函數就是使用這種方式。

使用者指標模式：記憶體片段由應用程式自己分配。這點需要在v4l2_requestbuffers裡將memory欄位設定成V4L2_MEMORY_USERPTR。

處理採集資料

V4L2有一個資料緩衝，存放req.count數量的快取資料。資料緩衝採用FIFO的方式，當應用程式調用快取資料時，緩衝隊列將最先採集到的 視頻資料緩衝送出，並重新採集一張視頻資料。這個過程需要用到兩個ioctl命令,VIDIOC_DQBUF和VIDIOC_QBUF：

1. struct v4l2_buffer buf;
2. memset(&buf,0,sizeof(buf));
3. buf.type=V4L2_BUF_TYPE_VIDEO_CAPTURE;
4. buf.memory=V4L2_MEMORY_MMAP;
5. buf.index=0;
7. //讀取緩衝
8. if (ioctl(cameraFd, VIDIOC_DQBUF, &buf) == -1)
9. {
10. return -1;
11. }
13. //…………視頻處理演算法
14. //重新放入緩衝隊列
15. if (ioctl(cameraFd, VIDIOC_QBUF, &buf) == -1) {
16. return -1;
17. }

關閉視頻裝置

使用close函數關閉一個視頻裝置

close(cameraFd)

還需要使用munmap方法。

 

 

附錄：標準的V4l2的API

http://v4l.videotechnology.com/dwg/v4l2.pdf