Откриването на пеницилина се приписва на шотландския учен Александър Флеминг през 1928 година. Разработката на пеницилина за употреба като лекарство се приписва на лауреатите на Нобелова награда за медицина Хауърд Флори и Ърнст Чейн.
Въпреки това, няколко други изследователи описват бактериостатичния ефект на Penicillium по-рано от Флеминг. Изглежда, че първата подобна публикация е направена през 1875 година от Джон Тиндал в Кралското дружество в Лондон. Френският лекар Ернест Дюшен (Ernest Duchesne) документира смъртоносното въздействие на някои видове мухъл върху бактериите в публикация от 1894 г., която не е приета от института „Пастьор“ заради младостта му.
Флеминг разказва, че моментът на пробива му е в утрото на петък, 28 септември 1928 година. Докато работи в лабораторията си в мазето на болницата Св. Мария в Лондон (сега част от Империъл Колидж), Флеминг забелязва „ореол“, в който липсва бактериален растеж около синьо-зеления мухъл, замърсяващ паничката на стафилококова бактериална култура. Той заключава, че мухълът освобождава субстанция, която потиска бактериалния растеж и разтваря клетките на бактерията. Отглежда чиста култура и открива, че това е пеницилиновия мухъл, сега познат като Penicillium notatum. Чарлз Том, американски специалист работещ в Министерството на земеделието на САЩ, е признат експерт и Флеминг отнася въпроса до него. Флеминг измисля термина „пеницилин“, за да опише филтрата на „бульонната“ култура на пеницилиновия мухъл. Дори в тези ранни етапи, пеницилинът се оказва най-ефективен срещу Грам-положителните бактерии, и неефективен срещу Грам-отрицателни организми и плесени. Първоначално Флеминг смята, че пеницилинът ще бъде полезен дезинфектант, тъй като е мощен при минимална токсичност в сравнение с антисептиците в онези дни и отбелязва неговата стойност при изолация на Bacillus influenzae (бактериална инфлуенца / грип, сега познат като Haemophilus influenzae). След по-нататъшни експерименти Флеминг е убеден, че пеницилинът не може да оживее достатъчно дълго в човешкото тяло, за да убие патогенните бактерии и спира да го изучава след 1931 г. През 1934 г. подновява клиничните проучвания до 1940 г.
Независимо от Флеминг, в СССР пеницилинът е открит от съветската микробиоложка Зинаида Ермолева и използван за нуждите на съветската армия по време на Втората световна война.
