1963-ban kapott fizikai Nobel-díjat az „atommagok és az elemi részecskék elméletének továbbfejlesztéséért, különös tekintettel az alapvető szimmetriaelvek felfedezéséért és alkalmazásáért.
Wigner Jenő doktori értekezését Polányi Mihály vezetésével a „Molekulák képződése és szétesése" címmel írta. Polányival való együttműködése a berlini Kristálytani Kutatóintézetben folytatódott, ahol egykori tanára a főnöke lett. Itt arra kérte Wignert, derítse ki, hogy az atomok miért tartózkodnak szívesebben a kristályok szimmetriasíkjaiban, ill. szimmetriapontjaiban.
Ezzel a problémával foglalkozva Wigner értette meg elsőként, hogy a négydimenziós téridő szimmetriái a kvantummechanikában központi szerepet játszanak. Ez a felismerés vezette el a tudóst a csoportelmélet megalkotásához, amely azóta is nélkülözhetetlen eszköze az elméleti fizikának. A csoportelmélet lényegében a geometriai szimmetriákon túlmutató, a fizikai történéseket (pl. elemi részecskék közötti átalakulásokat) leíró törvényszerűségek általános alapjait feltáró matematikai módszer. Nem véletlen, hogy az elvi alapok tisztázásában Neumann János is közreműködött. Eredményeit Wigner 1931-ben jelentette meg „Csoportelméleti módszer a kvantummechanikában” címmel. Tudományos körökben a könyv igen nagy visszhangot váltott ki és csakhamar bestsellerré vált (magyar fordítása csak 1979-ben jelent meg).
Wigner a harmincas évek végén kiterjesztette kutatásait az atommagokra is. Kifejlesztett egy fontos általános elméletet az atommag-reakciókra. A negyvenes évek elején az atomenergia békés felhasználásának úttörője lett: 1941-ben ő tervezte meg az első, kísérleti atomreaktort, és ő ajánlotta, hogy a neutronok lassítására vizet használjanak. Így került be abba a kutatási projectbe, melynek végterméke az atombomba lett.
37 szabadalmat jelentett be a különböző típusú reaktorok tárgykörében; amelyeket az 1950-es, 1960-as években fogadtak el. Wigner tervezői, fejlesztői munkájának eredményeképpen 1952-ben elkészül az anyagvizsgáló reaktor, amely prototípusa lett az amerikai Nautilus atom-tengeralattjárók reaktorának. Konzultánsa volt az atomenergia meghajtású tengeralattjárókat tervező Argonne National Laboratory-nak.
1960-ban, amikor már a matematikai fizika nagy alakjai közé sorolták, megírta legismertebb nem fizikai tárgyú tanulmányát, a mára klasszikussá vált „The Unreasonable Effectiveness of Mathematics in the Natural Sciences”-t (A matematika ésszerűtlen hatékonysága a természettudományokban). Ebben a tanulmányban amellett érvelt, hogy a fizikai fogalmak eredete a biológiában és az észlelésben gyökerezhet, az a szerencsés egybeesés pedig, hogy a matematika és a fizika olyan jól kiegészítik egymást, mai tudásunk szerint ésszerűtlen és megmagyarázhatatlan.