「【総まとめ】UPSERTとは?DBごとの違いは?」では、主要なDBごとの書き方をざっくり説明しました。
今回は、Oracle でのUpsertに焦点を絞り、掘り下げていきたいと思います。
参考として、DataFrameからUpsertを生成するPython関数も紹介しています。必要に応じてコピぺしてご利用下さい。
Oracle は MERGE ~ で Upsertを行う
Oracle でUpsertを行う場合は、MERGE INTO ~ WHEN ~を使います。
MERGE INTO~に更新先(インサート先)のテーブル名、 USING ~に更新元のテーブル名、ON ~ にユニークキーを指定します。
そして、WHEN MATCHED THEN ~には キーが存在した場合の処理(通常はUpdate文)、WHEN NOT MATCHED THEN ~ には キーが存在しなかった場合の処理(通常は Insert文)を記述します。
任意の値を Upsert したい場合は、 USINGに続けて (select 値1,値2,・・・)と記述します。
-- table_B から table_AにUpsertする場合
merge into table_A t1
using table_B t2
on (t1.shop = t2.shop and t1.name=t2.name)
when matched then update set t1.age = t2.age
when not matched then insert values (shop,name,age);
-- table_A に1行登録する場合
merge into table_A t1
using (select 1 as shop,'yamada' as name,15 as age) t2
on (t1.shop = t2.shop and t1.name=t2.name)
when matched then update set t1.age = t2.age
when not matched then insert values (shop,name,age);
検証データ
本記事のUpsert文を実際に試す場合は、あらかじめ以下のSQLを実行して下さい。
--サンプルテーブルの作成とテストデータ登録
CREATE TABLE oders
(
shop_no integer not null,
order_date timestamp not null,
product_id integer not null,
count integer not null,
constraint oders_p_key primary key (shop_no,order_date,product_id)
);
insert into oders values(1,'2023/01/01 09:00:00',10000,5);
insert into oders values(1,'2023/01/01 09:10:00',10000,15);
insert into oders values(1,'2023/01/01 09:20:00',10000,25);
--下記はテーブル間のUpsert確認用(odersを丸ごとコピー)
create table old_oders as select * from oders
テーブル間でUpsertする
テーブル間でUpsertする場合は次のように記述します。
テーブルAとテーブルBは同じ列名が存在するため、各列名の先頭にエイリアス名(又はテーブル名)を付けて、どちらのテーブルに所属するものかを明示する必要があります。
ただし、insert (列名1,列名2,・・・)の列名については、エイリアス名を省略できます。
merge into oders t1
using old_oders t2
on (t1.shop_no = t2.shop_no and t1.order_date=t2.order_date and t1.product_id=t2.product_id)
when matched then
update set t1.count = t2.count
when not matched then
insert(shop_no,order_date,product_id,count)
values (t2.shop_no,t2.order_date,t2.product_id,t2.count);
また、insert (列名1,列名2,・・・)の列名列挙部分は省略することが可能です。
下記は 省略した例になります。
merge into oders t1
using old_oders t2
on (t1.shop_no = t2.shop_no and t1.order_date=t2.order_date and t1.product_id=t2.product_id)
when matched then
update set t1.count = t2.count
when not matched then
insert values (t2.shop_no,t2.order_date,t2.product_id,t2.count);
1行をUpsertする
任意の値をUpsertしたい場合は、USING テーブル名 の代わりに、(select 列名1 AS 値1,・・・)と記述します。「1行だけの一時的なテーブルを作って、それを USINGに指定する」と考えると分かり易いでしょう。
下記は、サンプルテーブルに (1,'2023/01/01 09:00:00',10000,5) のデータをInsertし、レコードが既に存在していれば 数量(count)を 5にUpdateするサンプルです。
merge into oders t1
using (select 1 shop_no,'2023/01/01 09:00:00' order_date,10000 product_id,5 count from dual) t2
on (t1.shop_no = t2.shop_no and t1.order_date=t2.order_date and t1.product_id=t2.product_id)
when matched then update set t1.count = 15
when not matched then insert values (1,'2023/01/01 09:00:00',10000,5);
ON~に記述する結合条件が真なら MATCHED THEN ~を、偽なら NOT MATCHED THEN ~を実行するので、テーブルBとは全く異なる値でUpdateやInsertを行うことも可能です。
例えば、キーが存在しなければ Insert 時に count を 5で登録し、キーが存在すれば count を 15で Updateするという事もできます。
通常は、テーブルAとテーブルBを同じ内容にするためのUpsertですから、直接の値を記述するのではなく、列名を使って更新したい値を指定します。
もうお気づきかもしれませんが、このMERGE文は、USING 部分を除いて、テーブルBからテーブルAへUpsertする書き方と全く同じです。
下記は簡略化した時のサンプルですが、 USING (SELECT ~)の AS は省略しています。
merge into oders t1
using (select 1 shop_no,'2023/01/01 09:00:00' order_date,20000 product_id,5 count from dual) t2
on (t1.shop_no = t2.shop_no and t1.order_date=t2.order_date and t1.product_id=t2.product_id)
when matched then update set t1.count = t2.count
when not matched then insert values (t2.shop_no,t2.order_date,t2.product_id,t2.count);
複数行をまとめてUpsertする
Oracleでは、1回のInsert文で複数行(複数レコード)をまとめて登録する マルチインサート文が使えますが、Upsertについても同様のことが行えます。
ポイントは、using の部分を union でつなげるところです。こうすることによって、複数行を持つテーブルが一時的に出来たように見え、テーブル間のUpsertが実行できます。
merge into oders t1
using
(select 1 shop_no,'2023/02/01 09:10:00' order_date,20000 product_id,5 count from dual
union
select 1 shop_no,'2023/02/01 09:20:00' order_date,20000 product_id,5 count from dual
union
select 1 shop_no,'2023/02/01 09:30:00' order_date,20000 product_id,15 count from dual
) t2
on (t1.shop_no = t2.shop_no and t1.order_date=t2.order_date and t1.product_id=t2.product_id)
when matched then update set t1.count = t2.count
when not matched then insert values (t2.shop_no,t2.order_date,t2.product_id,t2.count)
尚、次のように1回のUpsertの中で、キーが重複するデータが存在しても、順番に処理されるだけでエラーにはなりません。この場合は後勝ちになるので、最後に実行されたInsert文の値(下記の例では15)が最終的に書き込まれ(Updateされ)ます。
UpsertでInsertだけ行う(Updateしない)
WHEN MATCHED THEN UPDATE SET ~ の記述をしなければ、Updateされません。
-- oders に向けてインサートを行うが、既に存在する場合は何もしない
merge into oders t1
using (select 1 shop_no,'2023/01/01 09:00:00' order_date,10000 product_id,115 count from dual) t2
on (t1.shop_no = t2.shop_no and t1.order_date=t2.order_date and t1.product_id=t2.product_id)
when not matched then insert values (t2.shop_no,t2.order_date,t2.product_id,t2.count);
-- old_odersから oders に向けてインサートを行うが、既に存在するレコードには何もしない
merge into oders t1
using old_oders t2
on (t1.shop_no = t2.shop_no and t1.order_date=t2.order_date and t1.product_id=t2.product_id)
when not matched then insert values (t2.shop_no,t2.order_date,t2.product_id,t2.count);
Pythonのサンプル
それでは、参考例としてDataFrameの値からUpsert文を生成するPythonのサンプルプログラムについてご紹介します。
使い方のサンプル
create_upsert にDataFrame、テーブル名、ユニークキーのリストを指定するだけで、Merge文を生成してくれます。
尚、下記サンプルで生成したUpsert文は、冒頭に紹介したサンプルテーブルに対して実行が可能です。
datas = [
[1,'2023/01/01 09:00:00',10000,55],
[1,'2023/01/01 09:10:00',10000,65],
[1,'2023/01/01 09:20:00',10000,75]
]
df = pd.DataFrame(datas,columns=['shop_no','order_date','product_id','count'])
sqls = create_upsert(df,'oders',['shop_no','order_date','product_id'])
for sql in sqls:
print(sql)
関数のソースコード
以下は、関数本体のソースコードになります。数値以外のデータ(文字列、日付)はシングルクォートで括る必要があるので、簡易的に dtype が 'object' か否かで判断しています。
また、insert into ~ values ~ の values に渡す値に 'nan' が含まれている場合、NULL に置換する処理を入れています。もし更新する値の中に 'nan' という文字列が含まれると、NULLに変換されてしまう点にご注意下さい。
def create_upsert(df,table,key_columns):
'''
DataFrameの内容からUpser文を作成する
Parameters
----------
df : DataFrame
データを格納したDataFrame
table : str
Upsert対象のテーブル名
key_columns : list of str
ユニークキーのカラム
例:['shop_no','order_date',・・・]"
Returns
----------
res:str
生成されたマルチテーブルインサート文
'''
# df から全てのカラム名を取り出す
columns = ",".join([i for i in df.columns])
# シングルクォート格納用のリストを作り、カラムの型がobjectの場合のみシングルクォートをセット
quote = ["'" if str(dtype) == 'object' else '' for dtype in df.dtypes]
sqls = []
# 全ての行を取り出す
for row in df.itertuples():
# 0カラム名(行インデックス)を飛ばし、必要に応じて各カラム値をシングルクォートで括る。
items = [ f'{quote[i]}{str(row[i+1])}{quote[i]} AS {df.columns[i]}' for i in range(len(df.columns))]
# Insert句の作成
values = ','.join(items).replace("'nan'", "NULL")
merge = f'merge into {table} t1 using (select {values} from dual) t2 '
# on句の作成
keys = ' and '.join([ f't1.{x}=t2.{x}' for x in key_columns])
condition = f'on ({keys}) '
# matched句の作成
set_list = ','.join([f't1.{x}=t2.{x}' for x in df.columns if x not in key_columns])
matched = f"when matched then update set {set_list} "
# unmatched句の作成
column_list = ','.join([f't2.{x}' for x in df.columns])
unmatched = f"when not matched then insert values({column_list}) "
# insert、conflict、updateを結合
sqls.append(merge + condition + matched + unmatched)
return sqls
まとめ
今回は Oracle のUpsertに焦点を絞って詳細を解説しました。
Oracle でUpsertを行うには、Merge into ~ に更新先テーブル名、using ~に更新元テーブル名、on ~ に結合条件を記載します。そして、 when not matched then ~ にキーが存在しなかった処理(通常は insert文)、when matched then ~ にキーが存在した時の処理(通常はUpdate文)を記述します。
また、キーが存在した時は何もしない(Updateしたくない)場合は、 when matched then ~を省略することで実現できます。
Oracle でUpsertが必要になった時は、是非この記事を参考にしてください。
コメント