Вот как обычно проверяют корректность работы калькулятора при покупке (хотя, если честно, сам лично ни разу не видел, чтобы кто-то его проверял именно на корректность вычисления):
1111*1111 = 1234321
11111*11111 = 123454321
12345679*9 = 111111111
12345679*18 = 222222222
12345679*27 = 333333333
12345679*36 = 444444444
12345679*45 = 555555555
12345679*54 = 666666666
12345679*63 = 777777777
12345679*72 = 888888888
12345679*81 = 999999999
12345678-12345679 = -1
Также можно привести массу других примеров.
А вот как можно протестировать калькулятор с точки зрения тестировщика (для каждой из операций калькулятора произвести свою группу тестов):
1) Тестирование функциональности:
3+5 = 8, 0+0 = 0, 0! =1, …
2) Тестирование производительности:
6^11,log(4312121289), …
3) Стресс-тестирование:
26575821530+57329103476, …
и т.д.