Работейки върху докторантурата си в Медисън, щата Уисконсин, Атанасов се фокусира върху сложните пресмятания. Изчисленията, извършвани с помощта на механични калкулатори, го вдъхновяват за ново изобретение за по-бързо пресмятане. След защита на дисертацията си Джон се завръща в Айова. Следва усилена работа с аналогови устройства за пресмятане, като Атанасов първи въвежда понятието „аналогов компютър”. Така до една нощ през зимата на 1937-38 г., когато след дълго шофиране мислите му подреждат сложния пъзел, от който се ражда идеята за нова изчислителна машина. Щатският университет в Айова подкрепя идеята му и така Атанасов заедно с помощника си Клифърд Бери създават устройството ABC (Atanasoff-Berry Computer), останало в историята като първия компютър. Той се отличавал от предишните подобни открития с нови революционни принципи за пресмятане, осъществявани в двоична система, както и с оперативната си памет.


Двамата учени се опитват да усъвършенстват създадения от тях компютър, но началото на Втората световна война прекъсва работата им. Интересен факт е, че тяхното откритие не е патентовано, дори оригиналното устройство е било разглобено, а частите му – изхвърлени. Следват дълги години на съдебни спорове за откритието на първия компютър, завършили през 1973 г. с решение на Федералния съд в Минесота, което признава изобретението на Джон Атанасов за първия автоматичен електронен дигитален компютър.