1. 串連mysql 資料庫
shell中串連資料庫的方法很簡單,只需要指定使用者名稱,密碼,串連的資料庫名稱,然後通過重新導向,輸入mysql的語句,如下所示:
mysql -u USERNAME -p PASSWORD DATABASENAME <<EOF 2>/dev/null
show databases;
EOF
但這並不是一個好辦法,任何使用該指令碼的使用者都能看到該資料庫使用者的帳號和密碼,要解決這個問題,可以用mysql 資料庫的一個特殊設定檔。mysql 資料庫使用$HOME/.my.cnf 檔案來讀取特殊的啟動命令和設定。其中一項設定是由該使用者賬戶發起的mysql 會話的預設密碼。要在這個檔案中設定預設密碼,可以加入下面的內容:
[client]
password = 123456
然後,別忘了修改許可權:
chmod 400 .my.cnf
這樣就可以通過指令碼訪問mysql資料庫了,如下所示:
#!/bin/bash
MYSQL=`which mysql`
$MYSQL test -u root << EOF
show databases;
show tables;
select * from employees where salary > 4000;
EOF
2. 建立資料庫
通過上面的方法串連資料庫,再通過重新導向輸入mysql語句,shell中讀寫mysql基本就介紹完了。只要把sql語句寫對了,通過重新導向執行即可,下面來看一個執行個體:
#!/bin/bash
##############################
# @file create_db_mysql.sh
# @brief create database and tables in mysql
# @author Mingxing LAI
# @version 0.1
# @date 2013-01-20
##############################
USER="root"
DATABASE="students"
TABLE="students"
######################
#crate database
mysql -u $USER << EOF 2>/dev/null
CREATE DATABASE $DATABASE
EOF
[ $? -eq 0 ] && echo "created DB" || echo DB already exists
######################
#create table
mysql -u $USER $DATABASE << EOF 2>/dev/null
CREATE TABLE $TABLE(
id int,
name varchar(100),
mark int,
dept varchar(4)
);
EOF
[ $? -eq 0 ] && echo "Created table students" || echo "Table students already exist"
######################
#delete data
mysql -u $USER $DATABASE << EOF 2>/dev/null
DELETE FROM $TABLE;
EOF
這個指令碼比較簡單,就是幾條SQL語句,沒什麼好解釋的,下面來看一下,如何讀入csv 檔案,然後插入到mysql資料庫中。
3. 插入csv 檔案
上面建立了一個學生表,表中有學生的學號,姓名,成績,系別,假設有一個csv檔案,內容如下:
$cat data
1,Navin M,98,CS
2,Kavya N,70,CS
3,Nawaz O,80,CS
4,Hari S,80,EC
5,Alex M,50,EC
6,Neenu J,70,EC
7,Bob A,30,EC
8,Anu M,90,AE
9,Sruthi,89,AE
10,Andrew,89,AE
為了將csv 檔案插入到資料庫,我們需要逐行讀入,然後給字串加上雙引號,最後產生語句如下:
insert into students VALUES(1, "Navin M", 98, "CS");
要解析csv 檔案,最好的工具莫過於awk了,將域的分隔字元指定為逗號-F,,awk就自動將各個域拆分出來了,然後在需要雙引號的地方列印輸出一個雙引號,就能夠輕鬆得到下面這樣的資料:
1, "Navin M", 98, "CS" awk 代碼如下:
query=`echo $line | awk -F, '{ printf("%s,"%s",%s,"%s"", $1, $2, $3, $4)}'`
statement=`echo "INSERT INTO $TABLE VALUES($query);"`
echo $statement
當然了,你也可以用其他辦法,不過,幾乎沒有比awk更簡單的了,第2種方法如下:
oldIFS=$IFS
IFS=,
values=($line)
values[1]=""`echo ${values[1]} | tr ' ' '#' `""
values[3]=""`echo ${values[3]}`""
query=`echo ${values[@]} | tr ' #' ', '`
IFS=$oldIFS
statement=`echo "INSERT INTO $TABLE VALUES($query);"`
echo "$statement"
首先通過指定域分隔字元,將csv檔案解析成一個數組,然後將空格替換成一個特殊的符號"#"(因為後面的替換中,會一次性輸出數組,而數組是用空格分隔各欄位,我們要將分隔數組的空格替換成逗號,所以這裡將資料中的空格替換成"#") ,給字串加上雙引號,最後再把空格替換成逗號,把"#"替換為空白格。這種方法真是讓人抓狂,我第一次就沒有看明白,尤其是為什麼要將空格替換成"#"。
完整的插入資料的程式如下:
#!/bin/bash
#
# @file write_to_db_mysql.sh
# @brief wirte data to database in mysql
# @author Mingxing LAI
# @version 0.1
# @date 2013-01-20
#
USER="root"
DATABASE="students"
TABLE="students"
if [ $# -ne 1 ]; then
echo $0 DATAFILE
echo
exit 2
fi
data=$1
while read line;
do
# query=`echo $line | awk -F, '{ printf("%s,"%s",%s,"%s"", $1, $2, $3, $4)}'`
oldIFS=$IFS
IFS=,
values=($line)
values[1]=""`echo ${values[1]} | tr ' ' '#' `""
values[3]=""`echo ${values[3]}`""
query=`echo ${values[@]} | tr ' #' ', '`
IFS=$oldIFS
statement=`echo "INSERT INTO $TABLE VALUES($query);"`
# echo $statement
mysql -u $USER $DATABASE << EOF
INSERT INTO $TABLE VALUES($query);
EOF
done < $data
if [[ $? -eq 0 ]]; then
echo "Wrote data into DB"
fi
4. 讀取資料
知道怎麼在shell 中串連mysql ,也知道了怎麼在shell中批量執行sql 語句,讀取資料,就沒有任何難度了。
#!/bin/bash
#
# @file read_db_mysql.sh
# @brief read data from mysql
# @author Mingxing LAI
# @version 0.1
# @date 2013-01-20
#
USER="root"
DATABASE="students"
TABLE="students"
#用tail 去掉表頭
depts=`mysql -u $USER $DATABASE <<EOF | tail -n +2
SELECT DISTINCT dept FROM $TABLE;
EOF`
for d in $depts; do
echo Department: $d
result="`mysql -u $USER $DATABASE << EOF
set @i:=0;
SELECT @i:=@i+1 as rank, name, mark FROM students WHERE dept="$d" ORDER BY mark DESC;
EOF`"
echo "$result"
echo
done
我們還可以在mysql語句中,使用選項來控制資料的輸出格式
-H 輸出為html
-X 輸出為xml
如下所示:
#!/bin/bash
USER="root"
DATABASE="students"
TABLE="students"
mysql -u $USER $DATABASE -H << EOF
select * from $TABLE
EOF
html 格式的可讀性比較差,輸出效果如下:
<TABLE BORDER=1><TR><TH>id</TH><TH>name</TH><TH>mark</TH><TH>dept</TH></TR><TR><TD>1</TD><TD>Navin M</TD><TD>98</TD><TD>CS</TD></TR><TR><TD>2</TD><TD> Kavya N</TD><TD>70</TD><TD>CS</TD></TR><TR><TD>3</TD><TD> Nawaz O</TD><TD>80</TD><TD>CS</TD></TR><TR><TD>4</TD><TD>Hari S</TD><TD>80</TD><TD>EC</TD></TR><TR><TD>5</TD><TD>Alex M</TD><TD>50</TD><TD>EC</TD></TR><TR><TD>6</TD><TD>Neenu J</TD><TD>70</TD><TD>EC</TD></TR><TR><TD>7</TD><TD>Bob A</TD><TD>30</TD><TD>EC</TD></TR><TR><TD>8</TD><TD>Anu M</TD><TD>90</TD><TD>AE</TD></TR><TR><TD>9</TD><TD>Sruthi</TD><TD>89</TD><TD>AE</TD></TR><TR><TD>10</TD><TD>Andrew</TD><TD>89</TD><TD>AE</TD></TR></TABLE>
可讀性差也可以理解,因為人家覺得,你沒必要修改麼,直接以html形式展示資料就可以了。
id name mark dept
1 Navin M 98 CS
2 Kavya N 70 CS
3 Nawaz O 80 CS
4 Hari S 80 EC
5 Alex M 50 EC
6 Neenu J 70 EC
7 Bob A 30 EC
8 Anu M 90 AE
9 Sruthi 89 AE
10 Andrew 89 AE
xml形式的資料顯示就比較正常了,直接將上面的-H 換成-X,輸出如下:
<?xml version="1.0"?>
<resultset statement="select * from students" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
<row>
<field name="id">1</field>
<field name="name">Navin M</field>
<field name="mark">98</field>
<field name="dept">CS</field>
</row>
<row>
<field name="id">2</field>
<field name="name"> Kavya N</field>
<field name="mark">70</field>
<field name="dept">CS</field>
</row>
</resultset>
shell操作mysql及優缺點
在shell開發中,很多時候我們需要操作mysql資料庫(比如:查詢資料、匯出資料等),但是我們又無法進入mysql命令列的環境,就需要在shell環境中類比mysql的環境,使用mysql相關命令,本文總結幾種shell操作mysql的方法,供大家參考。
方案1
mysql -uuser -ppasswd -e"insert LogTable values(...)"
優點:語句簡單
缺點:支援的sql相對簡單
方案2
準備一個sql指令碼,名字為update.sql,例如:
CREATE TABLE `user` (
`id` varchar(36) NOT NULL COMMENT '主鍵',
`username` varchar(50) NOT NULL COMMENT '使用者名稱',
`password` varchar(50) NOT NULL COMMENT '使用者密碼',
`createdate` date NOT NULL COMMENT '建立時間',
`age` int(11) NOT NULL COMMENT '年齡',
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=utf8 COMMENT='使用者資訊表';
DROP TABLE IF EXISTS `visit_log`;
CREATE TABLE `visit_log` (
`id` varchar(36) character set utf8 NOT NULL,
`type` int(11) NOT NULL,
`content` text character set utf8 NOT NULL,
`createdate` date NOT NULL,
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=latin1 COMMENT='訪問日誌';
建立一個update_mysql.sh,內容如下:
use chbdb;
source update.sql
然後執行如下命令:
cat update_mysql.sh | mysql --user=root -ppassword
優點:支援複雜的sql指令碼
缺點:
1> 需要兩個檔案:update.sql和update_mysql.sh
2> 一旦中間出錯,之後指令碼就不會執行,例如:
如果第一張表已經存在,則會報出如下異常:
ERROR 1050 (42S01) at line 1 in file: 'update.sql': Table 'user' already exists
然後指令碼退出,第二張表也就無法建立。
方案3
建立一個shell指令碼,格式如下:
#!/bin/bash
mysql -u* -h* -p* <<EOF
Your SQL script.
EOF
例如:
#!/bin/bash
mysql -uroot -ppassword <<EOF
use chbdb;
CREATE TABLE user (
id varchar(36) NOT NULL COMMENT '主鍵',
username varchar(50) NOT NULL COMMENT '使用者名稱',
password varchar(50) NOT NULL COMMENT '使用者密碼',
createdate date NOT NULL COMMENT '建立時間',
age int(11) NOT NULL COMMENT '年齡',
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=utf8 COMMENT='使用者資訊表';
優點:
1>支援複雜的sql指令碼
2>無需其它額外檔案
缺點:
1> 表名、欄位不能使用單引號,需要修改原有sql語句
2> 一旦中間出錯,之後指令碼就不會執行,例如:
如果第一張表已經存在,則會報出如下異常:
ERROR 1050 (42S01) at line 1 in file: 'update.sql': Table 'user' already exists
然後指令碼退出,第二張表也就無法建立。
方案4
準備一個sql指令碼,如update.sql,然後執行如下命令:
mysql -uroot -ppassword < update.sql
優點:支援複雜的sql指令碼
缺點:
1> 一旦中間出錯,之後指令碼就不會執行,例如:
如果第一張表已經存在,則會報出如下異常:
ERROR 1050 (42S01) at line 1 in file: 'update.sql': Table 'user' already exists
然後指令碼退出,第二張表也就無法建立。