川端康成の死の半年後の昭和四十七年十月、井上靖を理事長として、財団法人川端康成記念会が 設立され、十一月十五日に文部大臣により設置が認可された。翌年一月十六日の財団評議員会で短 編小説を対象とする「川端康成文学賞」の創設が決まった。それより前、役員のうちの文学関係者、 井上靖(理事長)北条誠・川端香男里(常務理事）、小田切進(理事)、山本健古、中村光夫、舟橋聖一、藤田圭雄、今日出海、瀬沼茂樹、徳田雅彦(評議員)などで審査委員の銓衡を進めており、その結果をうけて評議員会・理事会は永井龍男、中村光夫、舟橋聖一、山本健吉、吉行淳之介の五氏に審査委員を委奏することとした。三月二十七日に井上理事長は日本近代文学館で記者会見を行い、川端康成文学賞の設定の発表を行った。

授賞の規定は次のようになっている。
一、審査の対象は短篇小説とし、その年度における最も完成度の高い作品に授賞する。
一、第一回は昭和四十八年一月号より四十八年十二月号までの総合-文芸の諸雑誌に発表された作品、及び昭和四十八年一月より十二月までに刊行された短篇集に収録された作品を審査の対象とする。但し短篇集収録作品の場合は、その雑誌発表の時期が数年遡ることを妨げない。
一、審査は第一回は昭和四十九年四月とし、以後毎年四月中旬に行う。
一、審査委員は五名とし、三年を任期とする。
一、第一回受賞決定は、雑誌「新潮」六月号に発表し、同時に受賞作を掲載する。
「その年度における」という規定と、短編集収録の作品の場合、数年遡ることを認める規定は、一見矛盾する。しかし短篇集収録のおりに、作者による取捨選択、作品の手入れ、手直し等を経て、改めて読者の前に出されることが多い。その意味で短篇集の場合は雑誌初出の年にこだわらないでいいという意見が大勢であった。最終審査の行われる四月中旬は、慣例として康成命日の四月十六日となった。
なお、川端康成生誕100年の1999年(平成11年)の前年を区切りとして、授賞25回までを一期として一休止し、新潮社より『川端康成文学賞全作品』(1999年6月・上下2巻)を刊行した。第二期は、小川国夫、秋山駿、井上ひさし、津島佑子、村田喜代子を審査委員としてスタート。